标签：网站设计实例

搜索引擎爬虫指的是搜索引擎用于自动抓取网页的程序或者说叫机器人。这个就是从某一个网址为起点，去访问，然后把网页存回到数据库中，如此不断循环，一般认为搜索引擎爬虫都是没链接爬行的，所以管他叫爬虫。他只有开发搜索引擎才会用到。我们做网站，只需有链接指向我们的网页，爬虫就会自动提取我们的网页。

标签： 网站设计实例