伪装百度蜘蛛的IP整合

kevin.Zhu 发布于:2013-1-16 15:50 分类:Seo  有 8 人浏览,获得评论 0 条  

推一把网络营销培训

我相信很多时候,各位站长都会发现我们在分析网站日志的时候总会遇到一些伪装为百度user-agent:Baiduspider的IP地址假蜘蛛,其实这些假蜘蛛对我们网站来说,它们的危害是巨大的不得不引起重视,不说别的首先会占用网站带宽,导致网站流量上升,增加额外开销,而且在有限带宽的前提下,阻碍了正常蜘蛛的抓取,并且误导了我们在对网站开展SEO工作时的思路,更部分伪装成假蜘蛛的采集工具剽窃了我们的工作,而这些对于我们观察追踪记录百度蜘蛛来访次数,访问页面数,抓取了多少了多少页面等等都会造成一定的干扰,,尤其是站长之家CHINAZ的一些工具都是伪装为百度蜘蛛的。所以我们必须要在分析网站日志的时候把这些伪蜘蛛去除掉,以便得到精准的数据。下面是笔者整理的一些伪装为百度user-agent的IP地址,这些在分析网站日志的时候可以用光年日志分析系统拆分出去。

站长之家伪装百度蜘蛛IP地址:
友链检测:link.chinaz.com IP:222.77.187.33
站长工具:tool.chinaz.com IP:125.90.88.96 
我的工具:mytool.chinaz.com IP125.90.88.81
北京电信百度收藏蜘蛛IP: 220.181.51.210。
北京市电信集团公司伪装百度蜘蛛IP:
上次整理出来的一些IP,都是伪装为百度蜘蛛IP的,但是确都是电信集团(通过123查得到的信息)的:180.149.130.21, 180.149.130.18, 180.149.130.15, 180.149.130.149, 180.149.130.148, 180.149.130.17, 180.149.130.23, 180.149.130.25, 180.149.130.151, 180.149.130.152, 180.149.130.153。
其他伪装百度蜘蛛的IP:
北京电信IP: 220.181.158.36 浙江温州电信 61.164.108.59。
百度蜘蛛的IP:
Baiduspider-sfkr的一些IP:
北京联通:61.135.165.134,天津联通:125.39.78.185
riben 东京都六本木港区百度(riben)公司IP:119.63.196.9
北京电信百度蜘蛛IP: 220.181.158.107, 180.76.5.87, 220.181.108.184
北京联通百度蜘蛛IP: 180.76.5.162, 180.76.5.147, 180.76.5.155。
百度网页爬虫蜘蛛IP:123.15.**.**(最为常见,我们关注的也应该是这些IP),很多人说百度有高低权重蜘蛛,但是百度Lee的回答是否定的。
百度蜘蛛USER-AGENT名称:

百度产品名称 对应user-agent 
无线搜索 Baiduspider-mobile
图片搜索 Baiduspider-image 
视频搜索 Baiduspider-video 
新闻搜索 Baiduspider-news 
百度搜藏 Baiduspider-favo 
百度联盟 Baiduspider-cpro 
商务搜索 Baiduspider-ads
网页以及其他搜索 Baiduspider
抓取百度联盟会员站点 Baiduspider-cpro 
抓取参加百度竞价排名的网页 Baiduspider-sfkr