分享好友 资讯首页 频道列表

专业名词解释:Baiduspider - 百度蜘蛛

2013-12-19 10:33950
 Baiduspider - 百度蜘蛛:

百度是如何收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做Baiduspider - 百度蜘蛛。

它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。

百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:

产品名称                 对应user-agent

网页搜索                Baiduspider
无线搜索                Baiduspider-mobile 
图片搜索                Baiduspider-image 
视频搜索                Baiduspider-video 
新闻搜索                Baiduspider-news 
百度搜藏                Baiduspider-favo 
百度联盟                Baiduspider-cpro

不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。

举报 0
收藏 0
打赏 0
内部链接的规则
在我们建设内链的过程中应使用HTML文本链接,避免使用Flash、JS代码做内部链接。  因为搜索引擎蜘蛛无法良好抓取Flash、JS代码

0评论2014-04-26313

什么是网站的网状结构?
 网站的网状结构指的是网站的内部链接,比如你的每个页面都有一个随机调用文章的版块,就可以看成简单的网状结构,内页之间互相

0评论2014-04-26352

常见的查询行为
1.导航查询  导航查询是指为了直接访问某个特点的网站而进行的搜索。 在某些情况下,用户可能不知道具体的网址,这时搜索引擎

0评论2014-04-26332

什么是降权?
 降权一般是指网站在搜索引擎当中的评分被降低,也可以看成网站被搜索引擎处罚了。 那么怎样才会产生网站被降权的情况?  一

0评论2014-04-26355

什么是SEM
 SEM既Search Engine Marketing的缩写,中文意为搜索引擎营销。在国内,百度牢牢霸占搜索引擎的第一把交易,每日在搜索引擎上寻

0评论2014-04-26309

什么是网站的网状结构?
网站的网状结构指的是网站的内部链接,比如你的每个页面都有一个随机调用文章的版块,就可以看成简单的网状结构,内页之间互相链

0评论2014-04-22326

常见的查询行为
  1.导航查询  导航查询是指为了直接访问某个特点的网站而进行的搜索。 在某些情况下,用户可能不知道具体的网址,这时搜索引

0评论2014-04-22234

什么是降权?
降权一般是指网站在搜索引擎当中的评分被降低,也可以看成网站被搜索引擎处罚了。 那么怎样才会产生网站被降权的情况?  一般

0评论2014-04-22230

什么是SEM
SEM既Search Engine Marketing的缩写,中文意为搜索引擎营销。在国内,百度牢牢霸占搜索引擎的第一把交易,每日在搜索引擎上寻找

0评论2014-04-22235

什么是百度快照?
快照即为Web Cache,可以翻译为网页缓存,当搜索引擎派出蜘蛛去对网站进行索引的时候,会去对网站页面进行拍照抓取,生成一个临

0评论2014-04-22799