scrapy 没有正确下载文件。我有我的项目的 URL,所以我想我可以使用 wget 来下载文件。
如何在 scrapyprocess_item
函数中使用 wget?或者,是否有另一种下载文件的方式?
class MyImagesPipeline(ImagesPipeline):
#Name download version
def image_key(self, url):
image_guid = url.split('/')[-1]
return 'full/%s' % (image_guid)
def get_media_requests(self, item, info):
if item['image_urls']:
for image_url in item['image_urls']:
# wget -nH image_ul -P images/
yield Request(image_url)