限时10个 名额!手把手助企业搭建数字化平台
在小企业都有自己品牌!都有自己大数据! 济南客户 您好!
当前位置: 首页 > 联系我们 > 付款方式

Robots.txt 是什么?

发布人:网站编辑部 | 阅读量(956) | 发表时间:2020-11-16 10:22:23

Robots.txt 是你穿告诉搜索机器人哪些页面你会喜欢他们不能够访问您的网站的文本 (而不是 html) 文件。 Robots.txt 是不是强制性的搜索引擎,但是搜索引擎一般遵守他们都问什么不该做。 务必要澄清 robots.txt 不从防止搜索引擎抓取您的网站 (即它是不一的防火墙或密码保护的一种) 的一种方法,您放置一个 robots.txt 文件的事实是有点像把一条注释"请不要输入"一个解锁的门 — — 上如不能防止小偷进来,但好人,将不打开门,然后输入。 也就是为什么我们说是否真的有森 sitive 数据,是太依赖 robots.txt,以防止被索引,并显示在搜索结果的不完善。



robots.txt 的位置是非常重要的。 它必须是主目录中,因为否则用户代理 (搜索引擎) 不会能够找到它 — — 他们不中搜索名为 robots.txt 的文件的整个站点。 相反,他们首先主目录 (如 http://mydomain.com/robots.txt) 中查找和他们那里找不到它,如果他们只是假定此站点没有 robots.txt 文件,因此他们索引他们发现路上的一切。 因此,如果你不穿 robots.txt 中适当的位置,不要惊讶搜索引擎索引了您的整个站点。

概念与结构的 robots.txt 已发展了十-查看更多请先登录

立即登录

网址:http://dragonlm.com/a/d/id/MzM0NiwxNjg%3D.html

文章来源:抖拓-软件宣传部 , 转载请标明出处,谢谢合作!

会员
联系
顶部