Scrapy Crawlera 在我的 Windows 机器上运行良好,但是当我在我的 linux 服务器上运行它时出现错误 111。这是为什么?
当我使用 curl 时,我得到了这个错误:
curl: (7) Failed connect to proxy.crawlera.com:8010; Connection refused
Scrapy Crawlera 在我的 Windows 机器上运行良好,但是当我在我的 linux 服务器上运行它时出现错误 111。这是为什么?
当我使用 curl 时,我得到了这个错误:
curl: (7) Failed connect to proxy.crawlera.com:8010; Connection refused
事实证明,在处理端口时,如果 CPanel(或者 Linux?)没有在防火墙中列入白名单,则默认情况下会阻止端口。自从我使用 CPanel 以来,我通过 WHM 打开它,现在一切正常。
它很可能与 Windows 或 Linux 无关,但与Scrapy的用户代理有关。尝试做某事。像这样settings.py
:
USER_AGENT = 'Mozilla/5.0 (X11; Linux x86_64; rv:7.0.1) Gecko/20100101 Firefox/7.7