robots协议支持-官方解释
360搜索对Robots协议的支持360搜索支持Robots协议的主要命令，以下为具体说明：1. user-agent360搜索支持user-agent命令，包括使用通配符的user-agent命令。360搜索各产品的爬虫user-agent为：- 网页搜索 360Spider- 网页搜索 HaoSouSpider360搜索将优先使用HaoSouSpider来访问站点，如果遇到UA识别无法下载页面，会再用 360spider抓取,蜘蛛IP不更改。- 图片搜索 360Spider-Image- 视频搜索 360Spider-Video2. Allow站长可通过Allow命令指定建议收录的文件、目录 。3. Disallow站长可通过Disallow命令指定不建议收录的文件、目录。
360搜索对Robots协议的扩展
360搜索根据站长们的反馈，会陆续推出扩展的Robots协议命令。这些命令将能帮助站长们提高和360搜索爬虫沟通的效率，减少站长们维护Robots协议文件的技术成本。360搜索首个扩展命令是：indexpage，站长们可以使用此命令告知360搜索哪些网页经常更新。360搜索会根据站长的指示以及自己的算法，智能调整爬虫抓取频率，实现对您网站新内容的更高频率抓取。在命令中可以使用*、$等通配符。示例：使用通配符的Indexpage: http://bbs.360safe.com/forum-*-1.html$Indexpage: http://ent.sina.com.cn/*/roll.html不用通配符的：Indexpage: http://roll.tech.sina.com.cn/internet_all/index.shtmlIndexpage: http://roll.tech.sina.com.cn/it/index.shtmlIndexpage: http://roll.tech.sina.com.cn/tele/index.shtmlIndexpage: http://roll.tech.sina.com.cn/discovery/index.shtmlIndexpage: http://roll.tech.sina.com.cn/elec/index.shtml
对Robots协议的善意使用
Robots协议是一个搜索引擎和网站之间的善意协议，我们鼓励站长们也以善意的方式使用这一协议，尽量提供准确的信息，除非有充足理由，不使用Robots协议屏蔽某些特定搜索引擎爬虫。
页:
[1]