我在 ahrefs.com 上遇到一些 hreflang 和重定向错误,因为 utm 活动和弹出链接的锚点设置为“#”或“#!”。我想在我的 robots.txt 文件中添加一些代码,以防止谷歌抓取这些网址,从而使这些错误消失。
例如,我想禁止抓取的网址是:
https://mywebsite.com/#
https://mywebsite.com/#!
https://mywebsite.com/about?utm_campaign=something
我试过这段代码,但它不工作:
不允许: /*#!
禁止:/*utm_campaign