禁止搜索引擎收录的方法
时间：2023年11月24日
/来源：网络
/编辑：佚名
新建robots.txt文件，放到网站根目录下面。
robots.txt文件的内容：
User-agent: *
Disallow: /
User-agent:*表示和所有搜索引擎协议适用； Disallow:/表示禁止抓取收录全站。
robots.txt文件的内容：
User-agent: *
Disallow: /
User-agent:*表示和所有搜索引擎协议适用； Disallow:/表示禁止抓取收录全站。
新闻资讯 更多
- 【建站知识】查询nginx日志状态码大于400的请求并打印整行04-03
- 【建站知识】Python中的logger和handler到底是个什么？04-03
- 【建站知识】python3拉勾网爬虫之（您操作太频繁，请稍后访问）04-03
- 【建站知识】xpath 获取meta里的keywords及description的方法04-03
- 【建站知识】python向上取整以50为界04-03
- 【建站知识】scrapy xpath遇见乱码解决04-03
- 【建站知识】scrapy爬取后中文乱码,解决word转为html 时cp1252编码问题04-03
- 【建站知识】scrapy采集—爬取中文乱码，gb2312转为utf-804-03
猜你需要
豫ICP备2021026617号-1
豫公网安备：41172602000185