作为编写爬虫的一部分(在 Node.js 中,但实际上不是重点),我有时会收到超时和其他网络异常。某些异常(如 http 错误代码)可以正确归因于目标请求端点。其他的,比如我自己配置的超时,更难(不可能?)归因。
例如,在使用 http 代理进行爬网时,如何检查异常(如提到的超时)是由于代理还是由于请求端点引起的?
作为编写爬虫的一部分(在 Node.js 中,但实际上不是重点),我有时会收到超时和其他网络异常。某些异常(如 http 错误代码)可以正确归因于目标请求端点。其他的,比如我自己配置的超时,更难(不可能?)归因。
例如,在使用 http 代理进行爬网时,如何检查异常(如提到的超时)是由于代理还是由于请求端点引起的?