3

如果前面的元素 text() 匹配特定条件，我想提取一个元素。例如，

<html>
<div>
<table class="layouttab">
    <tbody>
    <tr>
        <td scope="row" class="srb">General information:&nbsp;&nbsp;</td>
        <td>(xxx) yyy-zzzz</td>
    </tr>
    <tr>
        <td scope="row" class="srb">Website:&nbsp;&nbsp;</td>
        <td><a href="http://xyz.edu" target="_blank">http://www.xyz.edu</a>
        </td>
    </tr>
    <tr>
        <td scope="row" class="srb">Type:&nbsp;&nbsp;</td>
        <td>4-year, Private for-profit</td>
    </tr>
    <tr>
        <td scope="row" class="srb">Awards offered:&nbsp;&nbsp;</td>
        <td>Less than one year certificate<br>One but less than two years certificate<br>Associate's degree<br>Bachelor's
            degree
        </td>
    </tr>
    <tr>
        <td scope="row" class="srb">Campus setting:&nbsp;&nbsp;</td>
        <td>City: Small</td>
    </tr>
    <tr>
        <td scope="row" class="srb">Related Institutions:</td>
        <td><a href="?q=xyz">xyz-New York</a>
            (Parent):
            <ul>
                <li style="list-style:circle">Berkeley College - Westchester Campus</li>
            </ul>
        </td>
    </tr>
    </tbody>
</table>
</div>
</html>

现在，如果前一个元素在 text() 属性中具有“Website:”，我想提取 URL。我正在使用带有scrapy 0.14的python 2.x。我能够使用单个元素提取数据，例如

 item['Header_Type']= site.select('div/table[@class="layouttab"]/tr[3]/td[2]/text()').extract()

但是，如果缺少网站参数并且 tr[3] 向上移动并且我在网站元素中得到“类型”，在类型中得到“提供的奖励”，这种方法就会失败。

xPath 中是否有特定命令，例如，

'div/table[@class="layouttab"]/tr/td[2] {if td[1] has text = "Website"}

提前致谢。

4

5 回答 5

5

对于 python 和 scrapy，您应该使用以下选择“类型”字段，这对我来说非常有用。

item['Header_Type']= site.select('div[1]/table[@class="layouttab"]/tr/td[contains(text(),"Type")]/following-sibling::td[1]/text()').extract()
于 2012-08-06T23:01:48.553 回答
4

div/table[@class="layouttab"]\tr\td[text()="Website"]\following-sibling::node()会工作的，我想。否则，您可以使用并从那里parent转到。td[2]

于 2012-08-01T19:57:44.983 回答
1

以下 XPath 将执行以下操作：

/html/div/table[@class='layouttab']/tbody/tr/td[contains(text(),'Website')]/following-sibling::td[1]
于 2012-08-01T19:57:47.430 回答
1

这对我有用：

/html/div/table[@class="layouttab"]/tbody/tr/td[. = 'Website:  ']/following-sibling::td/a/text()
  • 向下钻取td，看看它的文本是否匹配Website:
  • 用于following-sibling转到下一个td
  • 向下钻取以检索a并获取 URL 使用text()
于 2012-08-01T19:59:12.610 回答
1

这也将起作用..而且更通用..

//table[@class='layouttab']//td[contains(text(),'Website')]/following-sibling::td//text()

如果您要提取数据的页面上只有一个表，那么这也可以。

//td[contains(text(),'Website')]/following-sibling::td//text()
于 2012-08-06T10:24:37.647 回答