百度站长平台:如何识别Baiduspider 保证网站被正常抓取
0 ihunter 2014/05

  A5站长网(www.admin5.com)4月24日消息,有不少网站出现过误封Baiduspider的行为,对网站的收录造成影响。甚至有网站反映百度蜘蛛行为异常光顾过于频繁。近期百度站长平台表示Baiduspider对该站点的抓取并无异常,并发布教程帮助站长识别Baiduspider,并加入白名单。

  上周百度站长平台接到某站长求助,表示误封禁了Baiduspider的IP,询问是否有办法获得Baiduspider的所有IP,打算放入白名单加以保护,防止再次误封。在此要告诉各位站长,Baiduspider的IP池是不断变动的,我们无法提供IP全集。

  除此之外,之前还有站长发来质疑说Baiduspider光顾过于频繁,已超越服务器承受能力。而百度站长平台追查发现,Baiduspider对该站点的抓取并无异常,那只spider极有可能是个李鬼。

  那么,站长该如何通过IP来判断此spider是不是来自百度搜索引擎的呢?

  可以通过DNS反查方式来解决这个问题。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

  1,在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或*.baidu.jp 即为冒充。

收藏 有帮助 没帮助

上篇: 领悟网站优化核心仅需三要素
下篇: 提高网站关键词排名之——网站内容质量及相关性

相关主题
 猜你喜欢
 精彩主题