python-2.7 - scrapy 项目导出器是否支持优先级？如果是怎么办？

Question

通过支持优先级，我的意思是当您从项目管道中弹出一个项目时，它会返回一个具有最高优先级的项目。

Answer 1

也许你可以自己定制。

管道.py

class PriorityPipeline(object):
    def __init__(self):
        self.ids_seen = set()
    def process_item(self, item, spider):
        if item['id'] in self.ids_seen:
            raise DropItem("Duplicate item found: %s" % item)
        else:
            self.ids_seen.add(item['id'])
            return item

设置.py

ITEM_PIPELINES = [
    'soufun.pipelines.PriorityPipeline',
]