robots屏蔽“index.htm”首页,要怎么写?屏蔽后能避免抓取吗?

 杭州seo优化   2022-07-03 06:29   40 views 人阅读  0 条评论
摘要:

我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页?User-agent: *Disallow: /index.htm我的index.htm是

我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页?

User-agent: *
Disallow: /index.htm

11-30.

我的index.htm是现在默认的首页,想屏蔽蜘蛛抓取。让蜘蛛爬另一个文档,主要是规避备案巡查

我的网站和我备案的不一样,服务器那边要求改,我就整了个htm文档来规避下。

写法没有问题。但正常的不建议屏蔽首页地址,,“index.htm”这个后缀地址是需要处理掉的。

当然,如果只是应付备案短暂需求,,就只能这样处理。

后续备案处理后,尽快处理后缀“index.htm”。同时robots修改回去。

 

robots设置方法视频

 

写在结尾:以上就是robots屏蔽“index.htm”首页,要怎么写?屏蔽后能避免抓取吗?的详细内容,更多请关注【杭州SEO博客】其它相关文章!
本文地址:http://seo.youqingshuyuan.com/12382.html
版权声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系我们。

 相关文章  关键词:

 发表评论


表情