网站优化中对蜘蛛抓取你了解多少

发布时间:2022-05-14 15:19:20 作者: 来源: 浏览量(1552 )
摘要:网站优化中对蜘蛛抓取你了解多少?我们都知道百度权重是根据百度蜘蛛抓取后反馈这个网站得出的结果,很多做网站优化的人都在研究蜘蛛抓取的规律,当然网上也有很多的相关介绍,这里为大家介绍一下网站优化的蜘蛛抓取。...

 网站优化中对蜘蛛抓取你了解多少?我们都知道百度权重是根据百度蜘蛛抓取后反馈这个网站得出的结果,很多做网站优化的人都在研究蜘蛛抓取的规律,当然网上也有很多的相关介绍,这里为大家介绍一下网站优化的蜘蛛抓取。

  抓取需求

  抓取需求,crawl demand,指的是搜索引擎“想”抓取特定网站多少页面。

  决定抓取需求的主要有两个因素。一是页面权重,网站上有多少页面达到了基本页面权重,搜索引擎就想抓取多少页面。二是索引库里页面是否太久没更新了。说到底还是页面权重,权重高的页面就不会太久不更新。

  页面权重和网站权重又是息息相关的,提高网站权重,就能使搜索引擎愿意多抓取页面。

  抓取速度限制

  搜索引擎蜘蛛不会为了抓取更多页面,把人家网站服务器拖垮,所以对某个网站都会设定一个抓取速度的上限,crawl rate limit,也就是服务器能承受的上限,在这个速度限制内,蜘蛛抓取不会拖慢服务器、影响用户访问。

  服务器反应速度够快,这个速度限制就上调一点,抓取加快,服务器反应速度下降,速度限制跟着下降,抓取减慢,甚至停止抓取。

  所以,抓取速度限制是搜索引擎“能”抓取的页面数。

  抓取份额是由什么决定的?

  抓取份额是考虑抓取需求和抓取速度限制两者之后的结果,也就是搜索引擎“想”抓,同时又“能”抓的页面数。

  网站权重高,页面内容质量高,页面够多,服务器速度够快,抓取份额就大。

  网站优化中对蜘蛛抓取你了解多少?以上文章就是不二网为大家介绍的此类文章了,相信你肯定对这些文章很感兴趣,如果你有什么不懂的,可以直接联系小编。

扫一扫二维码,直接手机访问此页

扫码访问手机页面

【免责声明】本网站的部分文章信息(文字、图片、音频视频文件等资源)来自于网络,均是为公众传播有益咨询信息之目的,其版权归版权所有人所有。 本站采用的非本站原创文章及图片等内容无法一一与版权者联系,如果本站所选内容的文章作者及编辑认为其作品不宜供大家浏览,或不应无偿使用, 请及时联系我们删除,同时向您深表歉意!请发送邮件153462496@qq.com进行联系。

感兴趣吗?

欢迎联系我们,我们愿意为您解答任何有关网站疑难问题!

在线客服
嘿,我来帮您!