9

我注意到 StackOverflow 对每个问题都有一个视图计数，并且这些视图数字相当低且准确。

我的一个网站上有类似的东西。每当页面加载到后端代码中时，它基本上都会记录一次“命中”。不幸的是，它也会为搜索引擎命中提供臃肿和不准确的数字。

我想不计算机器人的一种方法是在页面加载后使用 AJAX 调用进行视图计数，但我相信还有其他更好的方法可以忽略命中计数器中的搜索引擎，同时仍然让它们进入抓取您的网站。你知道任何？

4

6 回答 6

5

AJAX 调用会执行此操作，但通常搜索引擎不会加载图像、javascript 或 CSS 文件，因此在页面中包含这些文件之一可能更容易，并传递您要记录请求的页面的 URL作为文件请求中的参数。

例如，在页面中...

http://www.example.com/example.html

您可能包括在头部

<link href="empty.css?log=example.html" rel="stylesheet" type="text/css" />

并让您的服务器端记录请求，然后返回一个空的 css 文件。相同的方法适用于 JavaScript 或图像文件，但在所有情况下，您都需要仔细查看可能发生的缓存。

另一种选择是消除基于用户代理的搜索引擎。在http://user-agents.org/上有一大堆可能的用户代理可以帮助您入门。当然，你也可以选择另一种方式，只计算来自你知道的网络浏览器的请求（包括 IE、Firefox、Safari、Opera 和这个新奇的 Chrome 东西可以让你达到 99% 的目标）。

更简单的是使用awstats之类的日志分析工具或Google 分析之类的服务，这两者都已经解决了这个问题。

于 2008-09-05T13:36:08.980 回答
2

为了解决这个问题，我实现了一个简单的过滤器，它将查看 HTTP 请求中的 User-Agent 标头并将其与已知机器人列表进行比较。

我从www.robotstxt.org获得了机器人列表。它可以以简单的文本格式下载，可以轻松解析以自动生成“黑名单”。

于 2008-09-05T14:30:27.963 回答
1

您实际上不需要使用 AJAX，只需使用 JavaScript 在屏幕外添加 iFrame。把事情简单化

<script type="javascript">
document.write('<iframe src="myLogScript.php" style="visibility:hidden" width="1" height="1" frameborder="0">');
</script>
于 2008-09-05T13:39:38.863 回答
1

Matt Sheppard 的答案的扩展可能类似于以下内容：

  <script type="text/javascript">
  var thePg=window.location.pathname;
  var theSite=window.location.hostname;
  var theImage=new Image;
  theImage.src="/test/hitcounter.php?pg=" + thePg + "?site=" + theSite;
  </script>

它可以插入页面页眉或页脚模板，而无需在服务器端替换页面名称。请注意，如果您包含查询字符串 (window.location.search)，则此功能的强大版本应对该字符串进行编码，以防止作恶者根据 URL 中的奇怪内容制作利用漏洞的页面请求。这与常规<img>标签相比的<iframe>好处是，如果 hitcounter 脚本有问题，用户不会看到红色 x。在某些情况下，在服务器端发生重写等之前，了解浏览器看到的 URL 也很重要，这给了你。如果你想要这两种方式，那么添加另一个参数 server-side 将该版本的页面名称也插入到查询字符串中。

此页面测试中的日志文件示例：

10.1.1.17 - - [13/Sep/2008:22:21:00 -0400] "GET /test/testpage.html HTTP/1.1" 200 306 "-" "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US; rv:1.8.1.16) Gecko/20080702 Firefox/2.0.0.16"
10.1.1.17 - - [13/Sep/2008:22:21:00 -0400] "GET /test/hitcounter.php?pg=/test/testpage.html?site=www.home.***.com HTTP/1.1" 301 - "http://www.home.***.com/test/testpage.html" "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US; rv:1.8.1.16) Gecko/20080702 Firefox/2.0.0.16"
于 2008-09-14T02:38:44.837 回答
0

Stack Overflow 有准确的视图计数的原因是它只计算每个视图/用户一次。

第三方点击计数器（和网络统计）应用程序通常会过滤掉搜索引擎并将它们显示在单独的窗口/选项卡/部分中。

于 2008-09-05T13:33:10.237 回答
0

您要么必须按照您在 AJAX 问题中所说的去做。或者排除已知搜索引擎的用户代理字符串。阻止机器人的唯一可靠方法是使用 AJAX。

于 2008-09-05T13:34:17.927 回答