蜘蛛程序的作用是什么

网络蜘蛛即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。

# 什么是baiduspider？

baiduspider是百度搜索引擎的一个自动程序。它的作用是访问互联网上的html网页，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站的网页。

# baiduspider对一个网站服务器造成的访问压力如何？

baiduspider会自动根据服务器的负载能力调节访问密度。在连续访问一段时间后，baiduspider会暂停一会，以防止增大服务器的访问压力。所以在一般情况下，baiduspider对您网站的服务器不会造成过大压力。

# 为什么baiduspider不停的抓取我的网站？

对于您网站上新产生的或者持续更新的页面，baiduspider会持续抓取。此外，您也可以检查网站访问日志中baiduspider的访问是否正常，以防止有人恶意冒充baiduspider来频繁抓取您的网站。 如果您发现baiduspider非正常抓取您的网站，请反馈至webmaster@baidu.com，并请尽量给出baiduspider对贵站的访问日志，以便于我们跟踪处理。

# baiduspider多长时间之后会重新抓取我的网页？

百度搜索引擎每周更新，网页视重要性有不同的更新率，频率在几天至一月之间，baiduspider会重新访问和更新一个网页。

这里有一个demo的代码：

http://my.opera.com/StevenYu/blog/show.dml/108744

蜘蛛是一种按照一定的规则自动去抓取互联网信息的程序或者脚本。各大搜索引擎他们最核心的一项技术就是蜘蛛的技术。

百度蜘蛛的爬行规律，互联网永远稀缺优质的内容，所以只要保持网站的内容更新频率和质量，蜘蛛就会经常光顾，并且给你好评，好评的结果就是你的排名上升。

蜘蛛的工作原理

各大搜索引擎都会派出它自己的蜘蛛程序，然后进入到互联网上去抓取，把抓取到的所有内容存到它的网页内容库里面，然后在内容库里面再通过索引程序做一个索引库，最终展现在用户面前的只有一个简单的搜索框，然后用户通过搜索框输入一个关键词，然后就会马上快速的去找到对应的内容，这就是一个搜索引擎蜘蛛的工作原理。

---