使用 Petri 提出的 CSS 选择器可能是使用 BS 的最佳方式。但是,我不能阻止自己推荐使用lxml.html
and xpath
,它非常适合这项工作。
测试html
:
html="""
<html>
<li class="g">
<div class="vsc"></div>
<div class="alpha"></div>
<div class="beta"></div>
<h3 class="r">
<a href="http://www.correct.com"></a>
</h3>
</li>
<li class="g">
<div class="vsc"></div>
<div class="alpha"></div>
<div class="beta"></div>
<h3 class="r">
<a href="http://www.correct.com"></a>
</h3>
</li>
<li class="g">
<div class="vsc"></div>
<div class="gamma"></div>
<div class="beta"></div>
<h3 class="r">
<a href="http://www.incorrect.com"></a>
</h3>
</li>
</html>"""
它基本上是一个单线:
import lxml.html as lh
doc=lh.fromstring(html)
doc.xpath('.//li[@class="g"][div/@class = "vsc"][div/@class = "alpha"][div/@class = "beta"][h3/@class = "r"]/h3/a/@href')
Out[264]:
['http://www.correct.com', 'http://www.correct.com']