dealgoround.com和citypockets.com从livingsocial.com和其他日常交易网站访问用户帐户及其日常交易。这些网站要求用户提供他们的凭据以登录各自的网站,然后导入帐户详细信息。LivingSocial 和其他交易网站不提供对用户帐户的 API 访问。
我也希望能够访问其他网站并从那里导入数据。但我无法找出dealgoround.com和citypockets.com从 Groupon 和 LivingSocial 等导入数据的后端流程。
到目前为止,我能够发现网络爬虫/蜘蛛可以用来从网页中抓取数据。但我不确定网络爬虫在我们需要用户登录并且页面 url 被加密或至少是动态生成的 url 的场景中是否有用。
请帮助我并建议我这样做的方法。如果爬虫是解决这个问题的方法,请提供一些我可以在我的 .net 应用程序中使用的网络爬虫 API 的链接。
谢谢
阿提夫