我该如何设置?我已经写了handle_httpstatus_list = [301, 302, 303],但是scrapy没有跟随新的链接,它刚刚开始保存页面的空文件。
PS 英语不是我的母语。请原谅我。
Scrapy 默认处理重定向,这意味着RedirectMiddleware在设置中被激活DOWNLOADER_MIDDLEWARES
并且REDIRECT_ENABLED
设置被设置为True
.
您还需要dont_redirect = true
在请求中提及:
meta = {'dont_redirect': True, "handle_httpstatus_list" : [301, 302, 303]}
问候