2

我正在使用 YQL 进行一些屏幕抓取,并且没有正确返回任何类似引号的字符。

例如,被抓取页面上的标记是:

There should not be a “split between what we think and what we do,”  

这由 YQL 返回为:

There should not be a �split between what we think and what we do,� 

这也发生在刻度和反刻度上。

我的 JS 是这样的:

var qurlString = '&url=' + encodeURIComponent(url);
$.ajax({
  type: "POST",
  url: "/k_sys/qurl.php",
  datatype: "xml",
  data: qurlString,
  success: function(data) {
    //do something
  }
});

我的 qurl.php 就像:

  $BASE_URL = "http://query.yahooapis.com/v1/public/yql";
  $url = my scraped site url;
  $yql_query = "select * from html where url='$url'";
  $yql_query_url = $BASE_URL . "?q=" . urlencode($yql_query) . "&format=xml";
  $session = curl_init($yql_query_url);
  curl_setopt($session, CURLOPT_RETURNTRANSFER,true);
  $xml = curl_exec($session);
  echo $xml;

这是 cURL 问题还是 YQL 问题,我需要做些什么来解决它?

谢谢!

4

2 回答 2

1

这听起来像是一个字符编码问题。您正在抓取的站点可能正在使用 head 元素中的元标记设置字符集,而不是配置服务器以正确识别 http 标头中的字符编码。找出站点使用的字符编码(您应该能够在浏览器的视图菜单中找到它)并将字符集键添加到您的 YQL 查询中。

YQL 指南中的示例:

select * from html where url='http://example.com' and charset='iso-8559-1' 
于 2010-08-17T23:39:34.800 回答
0

源页面由 IIS 和 ASP 提供。我最终不得不进行简单的搜索和替换,例如:

str_ireplace(chr(145), chr(39), $html)
于 2012-07-29T15:07:28.153 回答