可以通过dns反差ip的方法判断是否是百度蜘蛛,只要不是来自“. baidu . com”或“. baidu . jp”即为假冒的百度蜘蛛。
2.9.6 如何诊断百度蜘蛛是否能够正常抓取网站内容
百度seo教程认为很多网站因使用JavaScript代码或框架结构等问题,不能被百度蜘蛛所抓取。这里进行诊断也是为了防止蜘蛛来网站后,因为不能正常抓取而离开,导致网站收录很差,快照不更新等问题。
如果诊断结果有问题,则需要修正问题,提升与百度蜘蛛的友好度。
百度官方在线抓取诊断工具,选好网站(主页或其他页面)后,选择PC UA 或者移动UA,最后点击“抓取”即可。
稍等片刻,刷新页面会显示“抓取成功”,或者失败。可以点击查看“抓取成功”或失败的详细信息。
2.9.7 如何通过百度蜘蛛IP得知网站状态?
百度seo教程认为以下内容仅供参考。
1)抓取你网站的网页蜘蛛
4)站长工具的模仿的百度蜘蛛
5)搜外站长工具的模仿的百度蜘蛛
6)114站长工具箱模仿的百度蜘蛛
8)抓取网站内页收录的权重较低的非原创,需要通过一段时间考察
9)站长工具检测造成的无用
10)百度考察期蜘蛛或降权蜘蛛
12)新站及站点有不正常现象
13)不间断巡逻各站就是路过
14)沙盒或者有被K站
15)此ip爬过的文章或首页,绝对24小时内放出来和隔夜快照
16)百度蜘蛛IP来过,准备抓取
18)百度抓取首页的专用IP,网站首页快照更新快,隔夜更新
19)百度的权重IP段,抓取的文章第二天放出来,权重较高
20)综合性权重IP,抓取文章和首页,权重较高
21)抓取内页收录的,但权重较低
22)抓取网站首页的,也属于权重段,权重较高。