robots对网站的作用是什么?如何利用robots删除死链?

原创 彭淇  2017-09-17 11:01:33  阅读 1547 次 评论 3 条

2016101808154564.jpg

Q1:已被百度抓取的死链,可以通过robots屏蔽的方式让百度删除吗?

不建议这样做,最快最有效的方法是通过百度站长平台 死链提交工具 进行处理。

Q2:已经通过死链工具进行提交了,可是通过日志发现百度还是在抓我们的死链

答:提交规则后,spider为了验证链接是否真的死掉,需要抓一 部分回来验证。

Q3:百度对死链的抓取,对正常文章抓取的影响会有多大。

答:这个没有统一的标准,如果你没有设置robots也没有向百度提交,死链量还特别巨大的时候,有可能会占用你网站大量抓取配额,导致正常内容无法抓取。如果仅仅是spider为了验证死链规则抓一部分,那么对正常内容不会造成影响。

Q4:百度对死链的要求是什么?怎么设置死链效果最好?

答:目前百度支持协议死链、内容死链和跳转死链,其中最效果最好的是协议死链。参考链接:《百度标准死链官方文档》

Q5:robots屏蔽对阻止百度抓取死链是否有效

答:当然有效,百度严格遵守robots协议,若发现百度依然抓取,先确认是否为Baiduspider,若确认,可以通过反馈中心进行投诉。参考链接:《如何识别为百度spider》

Q6:百度站长平台是否有工具帮助我们发现网站内的未知死链?

答:可以通过链接分析工具中的死链分析功能,还有抓取异常工具进行发现分析。

本文地址:http://pengqi.club/blog/119.html
版权声明:本文为原创文章,版权归 彭淇 所有,欢迎分享本文,转载请保留出处!

发表评论


表情

评论列表

  1. 唯美陌阡
    唯美陌阡 【县长】  @回复

    [code]签到成功!签到时间:2017/9/18 上午9:23:02,每日签到,生活更精彩![/code]

  2. 彭淇
    彭淇 【站务管理】  @回复

    [code]签到成功!签到时间:2017/9/17 上午11:06:44,每日签到,生活更精彩![/code]