首页域名资讯 正文

什么导致引擎蜘蛛抓取异常

2024-11-18 1 0条评论

什么导致引擎蜘蛛抓取异常

  • 作者:新网
  • 来源:新网
  • 浏览:100
  • 2018-02-27 17:19:31

什么导致引擎蜘蛛抓取异常?网站发布高质量内容让搜索引擎蜘蛛抓取就会让网站有一个好的排名,导致搜索引擎蜘蛛抓取异常的原因有什么,接下来为大家具体分析一下。

什么导致引擎蜘蛛抓取异常?网站发布高质量内容让搜索引擎蜘蛛抓取就会让网站有一个好的排名,导致搜索引擎蜘蛛抓取异常的原因有什么,接下来为大家具体分析一下。
 

异常跳转
将网络请求重新指向其他位置即为跳转。异常跳转指的是以下几种情况:
1)当前该页面为无效页面(内容已删除、死链等),直接跳转到前一目录或者首页,百度建议站长将该无效页面的入口超链接删除掉
2)跳转到出错或者无效页面
注意:对于长时间跳转到其他域名的情况,如网站更换域名,百度建议使用301跳转协议进行设置。
其他异常:
1)针对百度refer的异常:网页针对来自百度的refer返回不同于正常内容的行为。
2)针对百度ua的异常:网页对百度UA返回不同于页面原内容的行为。
3)JS跳转异常:网页加载了百度无法识别的JS跳转代码,使得用户通过搜索结果进入页面后发生了跳转的情况。
4)压力过大引起的偶然封禁:百度会根据站点的规模、访问量等信息,自动设定一个合理的抓取压力。但是在异常情况下,如压力控制失常时,服务器会根据自身负荷进行保护性的偶然封禁。这种情况下,请在返回码中返回503(其含义是“Service Unavailable”),这样搜索引擎蜘蛛会过段时间再来尝试抓取这个链接,如果网站已空闲,则会被成功抓取。
什么导致引擎蜘蛛抓取异常?在以前的文章中小编就为大家介绍过很多的导致引擎蜘蛛抓取异常的原因和解决办法,看过了以上的文章你都学会了吗?其实这些原因解决起来也是挺简单的,只要我们找对了方法就能很快的解决了,希望以上文章对你有所帮助。

文章版权及转载声明

本文作者:亿网 网址:https://edns.com/ask/post/170813.html 发布于 2024-11-18
文章转载或复制请以超链接形式并注明出处。