0

我有 2 个网站。第一个是“test-www.xxxxxxx.net”，另一个是“www.xxxxx.net”。我想制作一个动态的无索引元标记。谷歌机器人可以索引我的实时站点，但我不希望它用于我的测试站点。Normaly 我可以在 _Layout.cshtml 中添加一个属性并使其动态化，如下所示。

@if (!Helper.IsLiveSite())
    {
        <meta name="robots" content="noindex">
    }

有没有办法可以在 robots.txt 文件中制作它？在一些文章中写道“我强烈建议您尽可能使用 Noindex。 ”

所以请帮忙！我怎样才能在robot.txt中做到这一点。我不知道下面的文件是否会产生错误。

User-agent: *
Disallow: /styles/
Sitemap: http://xxxxxx/sitemap/sitemap.xml
Noindex: test-www.xxxxxxx.net/*
Noindex: http://test-www.xxxxxxx.net/*
Noindex: https://test-www.xxxxxxx.net/*

谢谢。

4

1 回答 1

2

您不能禁止使用 robots.txt¹ 编制索引，只能抓取（使用Disallow）。

如果您想禁止从您的测试站点抓取所有文档，您必须上传可从以下位置访问的 robots.txt test-www.xxxxxxx.net/robots.txt：

User-agent: *
Disallow: /

（并且这个 robots.txt 文件不应该也可以从您的实时站点访问。）

搜索引擎（支持 robots.txt 的）将不再访问 ( crawl ) 此主机上的 URL。如果他们以某种方式在该主机上找到文档的 URL（例如，如果另一个页面链接到它们），他们可能会列出（索引）它们。

¹谷歌支持（也许仍然支持）这个实验性的，虽然。

于 2016-01-17T04:52:33.187 回答