14

我注意到 Google 删除了 Google App Engine 的 Finance API。我想要的只是一份他们在 Google 财经投资组合中的股票代码清单。鉴于 API 已被删除,有什么方法可以从最终用户的投资组合中提取这些数据?鉴于我知道登录名和密码(例如,它是我自己的),我正在尝试手动检索它。

有没有办法通过curl手动检索它,通过登录谷歌服务?似乎应该可以登录并转到我的投资组合页面,检索源。

我尝试了以下代码:

#!/bin/bash

function ClientLogin() {
  read -p 'Email> ' email
  read -p 'Password> ' -s password
  local service=$1
  curl -s -d Email=$email -d Passwd=$password -d service=$service https://www.google.com/accounts/ClientLogin | tr ' ' \n | grep Auth= | sed -e 's/Auth=//'
}

function GetFinance() {
  curl -L -s -H "Authorization: GoogleLogin auth=$(ClientLogin finance)" "http://www.google.com/finance/portfolio?action=view&pid=1" &> output.html
}

GetFinance

但是,这段代码只检索一个告诉我登录的页面。解决方案不需要使用 curl,但它必须是使用某种脚本语言的自动检索。


感谢 x4avier,我了解了 casperjs,并且能够编写一个快速脚本来加载 Google 服务登录页面,输入用户名和密码,然后获取 Google Finance 投资组合。我确信这适用于任何其他谷歌服务和页面。我将投资组合的html保存到portfolio.html。希望这对其他人也有帮助。

var fs = require('fs');
var failed = [];
var links = [
    "https://www.google.com/finance/portfolio?action=view&pid=13"
];

var casper = require('casper').create({
    verbose: true,
    logLevel: 'debug',
    pageSettings: {
         loadImages:  false,         // The WebPage instance used by Casper will
         loadPlugins: false,         // use these settings
         userAgent: 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_5) AppleWebKit/537.4 (KHTML, like Gecko) Chrome/22.0.1229.94 Safari/537
    }
});

// print out all the messages in the headless browser context
casper.on('remote.message', function(msg) {
    this.echo('remote message caught: ' + msg);
});

// print out all the messages in the headless browser context
casper.on("page.error", function(msg, trace) {
    this.echo("Page Error: " + msg, "ERROR");
});

var url = 'https://accounts.google.com/ServiceLogin?service=finance';

casper.start(url, function() {
   // search for 'casperjs' from google form
   console.log("page loaded");
   this.test.assertExists('form#gaia_loginform', 'form is found');
   this.fill('form#gaia_loginform', {
        Email: 'youraccount@gmail.com',
        Passwd:  'yourpass'
    }, true);
});

casper.each(links, function(casper, link) {
    this.then(function() {
        this.test.comment("Loading " + link);
        start = new Date();
        this.open(link);
    });
    this.then(function() {
        var message = this.requestUrl + " loaded";
        if (failed.indexOf(this.requestUrl) === -1) {
            this.test.pass(message);
            fs.write('portfolio.html',this.getPageContent(),'w');
        }
    });
});

casper.run();
4

2 回答 2

6

你应该考虑使用像casper.js这样的无头浏览器。

有了它,您可以登录谷歌,进入谷歌金融并获取页面或特定 css 选择器的 html。

要登录,您将使用fill()函数,它的工作原理如下:

casper.start('http://admin.domain.tld/login/', function() {
    this.fill('form[id="login-form"]', {
        'username': 'chuck',
        'password': 'n0rr1s'
    }, true);
});

casper.run();

然后您可以使用getHTML()解析页面和特定内容,工作如下:

casper.then(function() {
    this.echo(this.getHTML('h1#foobar')); // => 'The text included in the <h1 id=foobar>'
});

CasperJs 使用 cookie 并浏览多个页面,它应该满足您的需求。

希望能帮助到你 :)

于 2013-05-21T07:44:22.267 回答
1

您要准确检索哪些信息?

使用 python urllib 和 beautifulsoup http://docs.python.org/2/library/urllib2.html http://www.crummy.com/software/BeautifulSoup/bs4/doc/很容易做到这一点

我自己在不同的论坛网站上发布和检索消息。唯一不酷的是您必须对要检索的某些元素的 id 进行硬编码。

这是我为登录部分所做的示例

#!/usr/bin/python

import urllib
import urllib2
import cookielib
import BeautifulSoup

url = "https://accounts.google.com/ServiceLogin?hl=en";
values = {'Email': 'me@mymail.fr', 'Passwd' : '', 'signIn' : 'Sign in', 'PersistentCookie' : 'yes'} # The form data 'name' : 'value'

cookie = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cookie))
data = urllib.urlencode(values)
response = self.opener.open(url, data)
print response

我填写了谷歌登录所需的一些信息。但是当我检查 POST 请求时,您可能还需要在 values 字典中添加一些其他值。

这是我捕获的 POST 请求:

dsh:5606788993588
hl:en
checkedDomains:youtube
checkConnection:youtube:47:1,youtube:46:1
pstMsg:1
GALX:YU6dyLz2tHE
pstMsg:0
dnConn:
checkConnection:
checkedDomains:youtube
timeStmp:
secTok:
_utf8:☃
bgresponse:!A0LP9ks4H06eS0R0GKgonCCotgIAAAAiUgAAAAkqAOjHBiH2qA-EIczqcDooax5q8bxis...
Email:****@gmail.com
Passwd:mypassword
signIn:Sign in
PersistentCookie:yes
rmShown:1

我猜您必须先使用 Beautifulsoup 解析登录页面以获取此值,然后才能实际发送表单。我想知道上面给出的 casper 示例是否会自动执行此操作,如果可以,您宁愿使用它,然后使用 Beatifulsoup 解析您想要的任何内容的投资组合页面。

于 2013-05-21T13:11:43.130 回答