我不知道搜索引擎机器人是如何工作的,我浏览器记录上的机器人数据库条目是例如 Googlebot、msnbot、BingBot 等。
所以我不知道他们是否启用了javascript或任何东西。
为什么我想知道他们是否启用了 javascript?因为我想在我的网站上要求 Javascript。我所做的是,我有一个“覆盖”div,其中包含一条短消息,我在页面加载时使用 javascript 设置为“display:none”。因此,如果没有 Javascript,则覆盖不会消失,并且网站中的任何内容都不可点击或任何内容。
那么即使我做了 Javascript 要求,机器人仍然可以抓取我的网站吗?因为我希望谷歌和其他优秀的机器人能够抓取我的网站。