我已经阅读了这个问题,但我使用了不同的东西, 如何使用 python 登录网站?
我正在使用 Scrapy 进行网络抓取,但我不想使用 Mechanize。
我想要做的是用 python 登录我的网站,然后我必须使用数据库中的数据提交表单。
前提是所有数据都是有效的。我怎么能用scrapy做到这一点。或者我还需要使用任何其他库?
我已经阅读了这个问题,但我使用了不同的东西, 如何使用 python 登录网站?
我正在使用 Scrapy 进行网络抓取,但我不想使用 Mechanize。
我想要做的是用 python 登录我的网站,然后我必须使用数据库中的数据提交表单。
前提是所有数据都是有效的。我怎么能用scrapy做到这一点。或者我还需要使用任何其他库?
在开始爬网之前登录网站的scrapy 文档中有一个示例。
您可以将带有用户数据的请求发送到身份验证控制器。例如,您的网站从网站上的表单获取 POST 请求。所以你可以直接向它发送 POST 请求。
在此处查看类似的问题:如何使用 Python 登录网页并检索 cookie 以供以后使用?
查看 URLlib:http ://docs.python.org/2/library/urllib.html
这应该可以回答您的问题,但请记住,您必须满足一些身份验证位才能登录某些网站。我建议研究与此相关的 OpenID 和 python 库。