欢迎光临
我们一直在努力

百度蜘蛛、Google蜘蛛技术分析

百度蜘蛛:Baiduspider Google蜘蛛:Googlebot

  以下是我各个站点每日来访的百度蜘蛛和Google蜘蛛的ip段,对应每个站点的成熟度各有不同,我们试着在其中找到规律:(蜘蛛的来访数量与外链的数量,站点的更新频率,权重都息息相关,此处的数据仅代表我个人的站点)

  百度蜘蛛分析:

  A站.B站.F站均为一年至四个月的半成熟站点,百度蜘蛛( Baiduspider)每日来访次数均在5000-8000+次左右

  E站.G站均为二个月至四个月的新站,百度蜘蛛( Baiduspider)每日来访次数均在2000-3000+次左右

  C站在上周因服务器问题无法访问一天,正常的爬行次数在3000+

  D站为特殊情况,尚待研究。H站上线50天,爬行次数1000+

  从以上的列表中可看到:

  123.125.64.*123.125.66.* 这两个ip段为最常规出现的百度蜘蛛,应该是正常抓取和站点状态正常时百度的例行巡逻兵。

  119.63.193.* 119.63.198.*这两个ip段出现的站点均有更换ip,无法访问,新站初始的情况,我们理解为:新站考察期蜘蛛段。

  121.14.89.* 这个ip段作为度过新站考察期,来的更高等级的常驻蜘蛛,作为更深一级的爬行蜘蛛。

  Google蜘蛛分析:

  从以上的列表中可看到:

  202.101.43.*222.73.247.*66.249.65.* 这三个ip段是最为常规出现的。

  66.249.16.*出现的站点均为新站或站点出现无法访问情况后再次出现的ip段。

  210.72.225.*这个ip段不间断巡逻各站。

  203.208.60.*这个ip段出现在新站及站点有不正常现象后。

  综合以上数据可看出些许百度蜘蛛和Google蜘蛛的不同:

  1、 百度的蜘蛛访问及抓取量远大于Google蜘蛛

  2、百度的蜘蛛ip段较固定且有规律,Google可能因蜘蛛的分级及不同服务器过来抓取的频率不同而显得多样化

  3、 除非你的站点完全被Google惩罚,否则来访的蜘蛛数量不会有太大的差别,但百度则可能封杀你之后就很难恢复,或对你的站点极少爬行。

赞(0) 打赏
未经允许不得转载:优友网 » 百度蜘蛛、Google蜘蛛技术分析
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

大前端WP主题 更专业 更方便

联系我们联系我们

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏