3

如果前面的元素 text() 匹配特定条件,我想提取一个元素。例如,

<html>
<div>
<table class="layouttab">
    <tbody>
    <tr>
        <td scope="row" class="srb">General information:&nbsp;&nbsp;</td>
        <td>(xxx) yyy-zzzz</td>
    </tr>
    <tr>
        <td scope="row" class="srb">Website:&nbsp;&nbsp;</td>
        <td><a href="http://xyz.edu" target="_blank">http://www.xyz.edu</a>
        </td>
    </tr>
    <tr>
        <td scope="row" class="srb">Type:&nbsp;&nbsp;</td>
        <td>4-year, Private for-profit</td>
    </tr>
    <tr>
        <td scope="row" class="srb">Awards offered:&nbsp;&nbsp;</td>
        <td>Less than one year certificate<br>One but less than two years certificate<br>Associate's degree<br>Bachelor's
            degree
        </td>
    </tr>
    <tr>
        <td scope="row" class="srb">Campus setting:&nbsp;&nbsp;</td>
        <td>City: Small</td>
    </tr>
    <tr>
        <td scope="row" class="srb">Related Institutions:</td>
        <td><a href="?q=xyz">xyz-New York</a>
            (Parent):
            <ul>
                <li style="list-style:circle">Berkeley College - Westchester Campus</li>
            </ul>
        </td>
    </tr>
    </tbody>
</table>
</div>
</html>

现在,如果前一个元素在 text() 属性中具有“Website:”,我想提取 URL。我正在使用带有scrapy 0.14的python 2.x。我能够使用单个元素提取数据,例如

 item['Header_Type']= site.select('div/table[@class="layouttab"]/tr[3]/td[2]/text()').extract()

但是,如果缺少网站参数并且 tr[3] 向上移动并且我在网站元素中得到“类型”,在类型中得到“提供的奖励”,这种方法就会失败。

xPath 中是否有特定命令,例如,

'div/table[@class="layouttab"]/tr/td[2] {if td[1] has text = "Website"}

提前致谢。

4

5 回答 5

5

对于 python 和 scrapy,您应该使用以下选择“类型”字段,这对我来说非常有用。

item['Header_Type']= site.select('div[1]/table[@class="layouttab"]/tr/td[contains(text(),"Type")]/following-sibling::td[1]/text()').extract()
于 2012-08-06T23:01:48.553 回答
4

div/table[@class="layouttab"]\tr\td[text()="Website"]\following-sibling::node()会工作的,我想。否则,您可以使用并从那里parent转到。td[2]

于 2012-08-01T19:57:44.983 回答
1

以下 XPath 将执行以下操作:

/html/div/table[@class='layouttab']/tbody/tr/td[contains(text(),'Website')]/following-sibling::td[1]
于 2012-08-01T19:57:47.430 回答
1

这对我有用:

/html/div/table[@class="layouttab"]/tbody/tr/td[. = 'Website:  ']/following-sibling::td/a/text()
  • 向下钻取td,看看它的文本是否匹配Website:
  • 用于following-sibling转到下一个td
  • 向下钻取以检索a并获取 URL 使用text()
于 2012-08-01T19:59:12.610 回答
1

这也将起作用..而且更通用..

//table[@class='layouttab']//td[contains(text(),'Website')]/following-sibling::td//text()

如果您要提取数据的页面上只有一个表,那么这也可以。

//td[contains(text(),'Website')]/following-sibling::td//text()
于 2012-08-06T10:24:37.647 回答