我想禁止 SE 机器人访问我网站上的所有文件和文件夹,但其中的特殊文件夹和文件除外。我可以在 robots.txt 文件中使用这些行吗?
User-agent: *
Disallow: /
Allow: /thatfolder
这样对吗?
我想禁止 SE 机器人访问我网站上的所有文件和文件夹,但其中的特殊文件夹和文件除外。我可以在 robots.txt 文件中使用这些行吗?
User-agent: *
Disallow: /
Allow: /thatfolder
这样对吗?