我们在做SEO时，需要对各个搜索引擎的爬行蜘蛛有一个很好的了解认知，才能更好的去做好SEO优化，就如你要去谈业务，各大客户的一些身份信息需要了解一样。

下面小编就给大家整理了各大搜索引擎蜘蛛的知识，来给大家做下各大搜索引擎蜘蛛的介绍：

搜索引擎蜘蛛是搜索引擎的一个自动程序。它的作用是访问互联网上的网页、图片、视频等内容，建立索引数据库，使用户能在搜索引擎中搜索到您网站的网页、图片、视频等内容。一般用法为“spider+url”,后面的url是搜索引擎的痕迹，如果要查看某搜索引擎是否来爬取过你们的网站，可以查看服务器的日志里面是否有该url,同时还能查看来的时间、频率等等。。

1、百度蜘蛛Baiduspider+url：可以根据服务器的负载能力调节访问密度，大大降低服务器的服务压力。根据以往的经验百度蜘蛛通常会过度重复抓取同样的页面，导致其他页面无法被抓取到而不能被收录。这样的情况可以采取robots协议的方法来调节。

2、谷歌蜘蛛googlebot+url：谷歌蜘蛛属于比较活跃的网站扫描工具，其间隔28天左右就派出“蜘蛛”检索有更新或者有修改的网页。与百度蜘蛛大的不同点是谷歌蜘蛛的爬取深度要比百度蜘蛛多一些。

3、雅虎中国蜘蛛yahoo!Slurp+url：如果某个网站在谷歌网站下 没有好的收录，在雅虎下也不会有很好的收录和爬行。雅虎蜘蛛的数量庞大，但平均的效率不是很高，相应的搜索结果质量不高。

4、微软必应蜘蛛search+url：必应与雅虎有深度的合作关系，所以基本运行模式和雅虎蜘蛛差不多。

5、搜狗蜘蛛sogou+url：搜狗蜘蛛的爬取速度比较快，抓取的数量比起速度来说稍微少点。搜狗蜘蛛大的特点是不抓取robot.txt文件。

6、搜搜蜘蛛sosopider+url:搜搜早期是运用谷歌的搜索技术，谷歌有收录，搜搜肯定也会收录。2011年搜搜已经宣布采用自家独立的搜索技术，但搜搜的特性和谷歌蜘蛛的特点还是有着相似的地方。

7、有道蜘蛛YodaoBot+url:和其他搜索引擎蜘蛛一样，凡是高权重网站的链接一般都能将其收录。爬行原理也是通过链接之间的爬行。