怎么设置不让搜索引擎收录某些页面

2024-11-04 10:51:44
推荐回答(1个)
回答1:

首先,你先建一个空白文本文档(记事本),然后命名为:robots.txt。

(5)禁止Spider访问特定目录和特定文件(图片、压缩文件)。

User-agent: *

Disallow: /AAA.net/

Disallow: /admin/

Disallow: .jpg$

Disallow: .rar$

这样写之后,所有搜索引擎都不会访问这2个目录。需要注意的是对每一个目录必须分开说明,而不要写出“Disallow:/AAA.net/ /admin/”。