baiduspiderbaiduspider根据什么判断一个页面的重要程度

如何正确识别Baiduspider移动ua

百度站长平台发布公告宣布新版Baiduspider移动ua上线，同时公布了PC版Baiduspider ua，那么该如何正确识别移动ua呢？我们百度站长平台技术专家孙权老师给出了答案： 　　新版移动ua: 　　Mozilla/5.0 (Linux;u;Android 4.2.2;;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 patible; Baiduspider/2.0; +/search/spider.html) 　　PC ua: 　　Mozilla/5.0 patible; Baiduspider/2.0; +/search/spider.html） 　　之前通过“+/search/spider.html”进行识别的网站请注意！您需要修改识别方式，新的正确的识别Baiduspider移动ua的方法如下： 　　1. 通过关键词“Android”或者“Mobile”来进行识别，判断为移动访问或者抓取。

　　2. 通过关键词“Baiduspider/2.0”,判断为百度爬虫。

　　另外需要强调的是，对于robots封禁，如果封禁的agent是Baiduspider，会对PC和移动同时生效。

即，无论是PC还是移动Baiduspider，都不会对封禁对象进行抓取。

之所以要强调这一点，是发现有些代码适配站点（同一个url，PC ua打开的时候是PC页，移动ua打开的时候是移动页），想通过设置robots的agent封禁达到只让移动Baiduspider抓取的目的，但由于PC和移动Baiduspider的agent都是Baiduspider,这种方法是非常不可取的。

我的网站对百度进行了全站封禁,Baiduspider无法抓取我的网页，怎么回事啊？怎么办！

请用百度站长工具进行相关的检查和诊断，这个不一定是这个文件的问题，也可能是主机的问题也会导致封禁

怎样才能被Baiduspider抓取

1. 网站及页面权重。

这个肯定是首要的了，权重高、资格老、有权威的网站蜘蛛是肯定特殊对待的，这样的网站抓取的频率非常高，而且大家知道搜索引擎蜘蛛为了保证高效，对于网站不是所有页面都会抓取的，而网站权重越高被爬行的深度也会比较高，相应能被抓取的页面也会变多，这样能被收录的页面也会变多。

2. 网站服务器。

网站服务器是网站的基石，网站服务器如果长时间打不开，那么这相当与你闭门谢客，蜘蛛想来也来不了。

百度蜘蛛也是网站的一个访客，如果你服务器不稳定或是比较卡，蜘蛛每次来抓取都比较艰难，并且有的时候一个页面只能抓取到一部分，这样久而久之，百度蜘蛛的体验越来越差，对你网站的评分也会越来越低，自然会影响对你网站的抓取，所以选择空间服务器一定要舍得，没有一个好的地基，再好的房子也会跨。

3. 网站的更新频率。

蜘蛛每次爬行都会把页面数据存储起来。

如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取了。

页面内容经常更新，蜘蛛就会更加频繁的访问页面，但是蜘蛛不是你一个人的，不可能就在这蹲着等你更新，所以我们要主动向蜘蛛示好，有规律的进行文章更新，这样蜘蛛就会根据你的规律有效的过来抓取，不仅让你的更新文章能更快的抓取到，而且也不会造成蜘蛛经常性的白跑一趟。

4. 文章的原创性。

优质的原创内容对于百度蜘蛛的诱惑力是非常巨大的，蜘蛛存在的目的就是寻找新东西，所以网站更新的文章不要采集、也不要每天都是转载，我们需要给蜘蛛真正有价值的原创内容，蜘蛛能得到喜欢的，自然会对你的网站产生好感，经常性的过来觅食。

5. 扁平化网站结构。

蜘蛛抓取也是有自己的线路的，在之前你就给他铺好路，网站结构不要过于复杂，链接层次不要太深，如果链接层次太深，后面的页面很难被蜘蛛抓取到。

6. 网站程序。

在网站程序之中，有很多程序可以制造出大量的重复页面，这个页面一般都是通过参数来实现的，当一个页面对应了很多URL的时候，就会造成网站内容重复，可能造成网站被降权，这样就会严重影响到蜘蛛的抓取，所以程序上一定要保证一个页面只有一个URL，如果已经产生，尽量通过301重定向、Canonical标签或者robots进行处理，保证只有一个标准URL被蜘蛛抓取。

7. 外链建设。

外链可以为网站引来蜘蛛，特别是在新站的时候，网站不是很成熟，蜘蛛来访较少，外链可以增加网站页面在蜘蛛面前的曝光度，防止蜘蛛找不到页面。

在外链建设过程中需要注意外链的质量，别为了省事做一些没用的东西，百度现在对于外链的管理相信大家都知道，我就不多说了，不要好心办坏事了。

8. 内链建设。

蜘蛛的爬行是跟着链接走的，所以内链的合理优化可以要蜘蛛抓取到更多的页面，促进网站的收录。

内链建设过程中要给用户合理推荐，除了在文章中增加锚文本之外，可以设置相关推荐，热门文章，更多喜欢之类的栏目，这是很多网站都在利用的，可以让蜘蛛抓取更大范围的页面。

9. 首页推荐。

首页是蜘蛛来访次数最多的页面，也是网站权重最高的页面，可以在首页设置更新版块，这样不仅能让首页更新起来，促进蜘蛛的来访频率，而且可以促进更新页的抓取收录。

同理在栏目页也可以进行此操作。

10. 检查死链，设置404页面。

搜索引擎蜘蛛是通过链接来爬行搜索，如果太多链接无法到达，不但收录页面数量会减少，而且你的网站在搜索引擎中的权重会大大降低。

蜘蛛在遇见死链就像进了死胡同，又得折返重新来过，大大降低蜘蛛在网站的抓取效率，所以一定要定期排查网站的死链，向搜索引擎提交，同时要做好网站的404页面，告诉搜索引擎错误页面。

11. 检查robots文件。

很多网站有意无意的直接在robots文件屏蔽了百度或网站部分页面，却整天在找原因为什么蜘蛛不来抓取我的页面，这能怪百度吗?你都不让别人进门了，百度是怎么收录你的网页?所以有必要时常去检查一下网站robots文件是否正常。

12. 建设网站地图。

搜索引擎蜘蛛非常喜欢网站地图，网站地图是一个网站所有链接的容器。

很多网站的链接层次比较深，蜘蛛很难抓取到，网站地图可以方便搜索引擎蜘蛛抓取网站页面，通过抓取网站页面，清晰了解网站的架构，所以建设一个网站地图不仅提高抓取率还能获得蜘蛛好感。

13. 主动提交。

每次更新完页面，主动把内容向搜索引擎提交一下也是一个不错的办法，只不过不要没收录就一直去提交，提交一次就够了，收不收录是搜索引擎的事，提交不代表就要收录。

14. 测蜘蛛的爬行。

利用网站日志监测蜘蛛正在抓取哪些页面、抓取过哪些页面，还可以利用站长工具对蜘蛛的爬行速度进行查看，合理分配资源，以达到更高的抓取速度和勾引更多的蜘蛛。

求助：Baiduspider无法解析到您网站的IP

有可能百度的服务器IP被墙了，访问不了GD的DNS或者空间。

可尝试将域名使用DNSPOD解析，或者申请GD更换机房。

GD新加坡机房的服务器还不错，比较稳定，就是速度不快。

这个rotobs 是什么意思呢。求解。

应该是指robots.txt吧。

robots.txt这个是Web站点和搜索引擎之间的一种抓取协议，所有搜索引擎都应该是遵循这一协议的。

通过内容告诉搜索引擎哪些内容可以抓取，哪些不可以 User-agent: Baiduspider allow:/ 允许百度蜘蛛抓取全站。

User-agent: * Disallow: / 屏蔽所有搜索引擎抓取全站。

baiduspider根据什么判断一个页面的重要程度

页面修改时间确实是一个重要参数。

通常情况下，http状态码返回有以下几个常用的。

方法/步骤 1 1、200 0 0 表示蜘蛛对服务器发出了请求，服务器对请求进行了处理，蜘蛛从服务器上抓取了数据。

2 2、200 0 64 表示蜘蛛对服务器发出了请求，服务器对请求进行了处理，但是蜘蛛没有从服务器抓取数据。

3 3、304 0 0 表示蜘蛛来访，服务器告诉蜘蛛，该文件没有进行更新，不需要重新抓取数据。

END 分析如下 1、200 0 0 如果是抓取的是最新发布的内容的话，通常情况下，会很快释放（网站权重比较高的情况下），如果抓取的是很早之前发布的数据的话，通常情况下，是正常抓取，但是不会马上释放，在百度有比较大的更新的时候，一次性释放。

这就是很多同志们很惊喜的。

2、200 0 64，很多人认为是被K站的前兆，这个可以说基本上和被K站是两回事。

这是因为蜘蛛通过对服务器的文件对比，发现服务器的文件和之前抓取的文件内容和大小一样，所以就不再进行数据抓取。

这个基本上和K站没任何直接关系。

这也就是很多同学在分析日志的时候，经常会发现出现200 0 64状态码的原因。

3 很多人会问，200 0 64 和304 0 0 都是蜘蛛对服务器进行了访问，都是没有抓取数据，那区别在什么地方呢？这就是在于页面的修改时间。

4 比如说，我网站的首页是静态生成的，2月17日中午12点，进行了数据更新，重新生成了首页。

baiduspider在2月17日12点以后进行访问，对新生成的首页进行了抓取，返回的http状态码就是200 0 0 . 如果之后我没有再对首页文件进行更新，baiduspider再进行访问的时候，根据更新时间，服务器会直接返回304 0 0 状态码，baiduspider不再对文件进行访问和抓取。

如果说我在12月16日以后，我没再更新过内容，没再发布过文章，但是重新生成了首页，baiduspider再次访问的时候，发现首页文件的更新时间发生了改变，于是对首页文件重新进行分析，得出了首页文件没有更新的结论，于是不再进行数据抓取，返回200 0 64 状态码。