我正在并行解析一堆文档,我很想使用异步 Web 请求来完成它。
我尝试将 typhoeus 与 mechanize 集成,但遇到了从 mechanize 传递 cookie 的问题。
我的步骤:
- 通过 mechanize 登录并获取 cookie。
- 将 cookie 传递给 typhoeus 并发送请求。
- 用 nokogiri 解析响应。
- 重复2-3次。
我发送请求为:
Typhoeus::Request.new("http://example.com", headers: {'Cookie' => agent.cookies})
agent
机械化实例在哪里。
有没有办法将 Mechanize 与 Eventmachine 或 Typhoeus 集成?