0

（编辑：我仍然没有找到解决这个问题的方法。这个$crawler对象看起来很荒谬，我只想将它解析为特定的<td>文本，这有多难？我也不能serialize()整个爬虫对象并制作整个将网页的源代码转换为字符串，否则我只能用困难的方式解析该字符串。请帮忙。我觉得我已经很好地描述了这个问题，如下所示。）

下面我使用 Symfony、Goutte 和 DomCrawler 来抓取网页。我一直试图通过其他问题来解决这个问题，但没有成功，但现在我将发布我所有的代码，以使其尽可能直截了当。

我能够获取该页面并获取我正在寻找的第一个数据。第一个是从 javascript 打印的 url，a带有一个标签，onclick并且是一个长字符串，所以我使用 apreg_match来筛选并得到我需要的东西。

我需要的下一点数据是<td>标签中的一些文本。问题是，这个网页有 10-20 个不同的<table>标签，而且没有id=""或class=""标签，所以很难隔离。所以我要做的是搜索“事件标题”这个词，然后转到下一个兄弟<td>标签并提取它的 innerHtml，这将是实际的标题。

问题是，对于第二部分，我似乎无法正确解析$crawler对象。我不明白，我preg_match之前在对象的一个serialize()​​版本上做过$crawler，但对于下半部分，我似乎无法正确解析。

$crawler = $client->request('GET', 'https://movies.randomjunk.com/events/EventServlet?ab=mov&eventId=154367');



$aurl = 'http://movies.randomjunk.com/r.htm?e=154367'; // event url beginning string
$gas = $overview->filter('a[onclick*="' . $aurl . '"]');

$string1 = serialize($gas->filter('a')->attr('onclick')); //TEST
$string1M = preg_match("/(?<=\')(.*?)(?=\')/", $string1, $finalURL); 
$aString = $finalURL[0];
echo "<br><br>" . $aString . "<br><br>";
// IT WORKS UP TO HERE


// $title = $crawler->filterXPath('//td[. = "Event Title"]/following-sibling::td[1]')->each(funtion (Crawler $crawler, $i) {
//     return $node->text();
// }); // No clue why, but this doesn't work. 

$html = $overview->getNode(0)->ownerDocument->saveHTML();


$re = "/>Event\sTitle.*?<\\/td>.*?<td>\\K.*?(?=<\\/td>)/s";
$str = serialize($html);
print_r($str);
preg_match_all($re, $str, $matches);
$gas2 = $matches[0];


echo "<pre>";
    print_r($gas2);
echo "</pre>";

我preg_match只是返回一个空数组。我认为这是搜索$crawler对象的问题，因为它由许多节点组成。我一直在尝试将其全部转换为 html 然后转换为 apreg_match但它只是拒绝工作。我做了一些print_r陈述，它只返回整个网页。

以下是爬虫对象中的一些 html 示例：

{lots of other html and tables}
<table> 
    <tr>
        <td>Title</td>
        <td>The Harsh Face of Mother Nature</td>
        <td>The Harsh Face of Mother Nature</td>
    </tr>
    .
    .
</table>
{lots of other html and tables}

目标是解析整个页面/$crawler对象并获得标题“大自然的严酷面孔”。

我知道这一定是可能的，但任何人都想提供的唯一答案是指向 domcrawler 页面的链接，此时我已经阅读了大约一千次。请帮忙。

4

3 回答 3

2

鉴于上面的 html 片段，我能够想出以下 XPath：

//table/tr/td[.='Title']/following-sibling::td[1]

您可以在此处使用您提供的 html 片段测试 XPath

$html = '<table><tr><td>Event Title</td><td>The Harsh Face of Mother Nature</td><td>The Harsh Face of Mother Nature</td></tr><tr><td>Event Title</td><td>The Harsh Face of Mother Nature</td><td>The Harsh Face of Mother Nature</td></tr><tr><td>Event Title</td><td>The Harsh Face of Mother Nature</td><td>The Harsh Face of Mother Nature</td></tr></table>';
$crawler = new Symfony\Component\DomCrawler\Crawler($html);

$query = "//table/tr/td[.='Event Title']/following-sibling::td[1]";
$crawler->filterXPath($query)->each(function($crawler, $i) {
echo $crawler->text() . PHP_EOL;

});

哪个输出：

The Harsh Face of Mother Nature
The Harsh Face of Mother Nature
The Harsh Face of Mother Nature

更新：通过以下方式成功测试：

$html = '<html><table><tr><td>Event Title</td><td>The Harsh Face of Mother Nature</td><td>The Harsh Face of Mother Nature</td></tr></table><table><tr><td>Event Title</td><td>The Harsh Face of Mother Nature</td><td>The Harsh Face of Mother Nature</td></tr></table><table><tr><td>Event Title</td><td>The Harsh Face of Mother Nature</td><td>The Harsh Face of Mother Nature</td></tr></table></html>';

更新：从网站获得示例 html 后，我能够使用以下 XPath 解析内容：

//td[normalize-space(text()) = 'Event Title']/following-sibling::td[1]

真正的问题是“事件标题”周围的前导和尾随空格。

于 2015-03-31T23:55:52.347 回答
0

好吧，你可以做的是在你的：

<td class="mytitle">The Harsh Face of Mother Nature</td>

您将使用它来过滤您的爬虫，以将您的所有标题放在一个数组中，如下所示：

$titles = $crawler->filter('td.mytitle')->extract(array('_text'));

其中 td.mytitle 是一个 CSS 选择器，使用 mytitle 类选择 td 并提取引用节点内文本的 _text。

比正则表达式更简单、更高效...

未测试此代码，但它应该可以工作，您可以在此处获得有关爬虫的更多帮助和更多信息：

http://symfony.com/fr/doc/current/components/dom_crawler.html

于 2015-03-27T14:20:40.097 回答
0

这是这个问题的另一个答案。

use Weidner\Goutte\GoutteFacade;
use Symfony\Component\DomCrawler\Crawler;


$crawler = GoutteFacade::request('GET','http://localhost/php_notes.php');

// find the parent table 
$table = $crawler->filter('table')->each(function($table){

    $tdText = $table->filter('td')->each(function ($node){


        $alike = $node->previousAll(); // calculate the elements of the same level above this element :Will return array containing the tags above this tag.

        $elementTag = $alike->eq(0); // find the tag above this <td> tag. 

        if($elementTag->nodeName()=='td'){

            if($elementTag->text()=='Title')
            {
                dump("Title Heading => ".$elementTag->text()); // Title
                dd("Title Value => ".$node->text()); // The Harsh Face of Mother Nature
            }
        }


    });
});

您需要对 567 行的 Symfony\dom-crawler\Crawler.php 文件进行一些更改。

public function nodeName()
    {
        if (!$this->nodes) {
            return null;
            // throw new \InvalidArgumentException('The current node list is empty.');
        }

        return $this->getNode(0)->nodeName;
    }
于 2020-03-21T15:49:59.173 回答