13

我尝试使用 urllib2 执行一个简单的 POST 请求。然而,服务器响应表明它接收到一个简单的 GET。我检查了传出请求的类型,但它设置为 POST。
为了检查服务器的行为是否像我期望的那样,我尝试使用连接到 url 的(前 POST-)数据执行 GET 请求。这得到了我预期的答案。
有人知道我误解了什么吗?

def connect(self):
    url = 'http://www.mitfahrgelegenheit.de/mitfahrzentrale/Dresden/Potsdam.html/'
    user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'
    header = { 'User-Agent' : user_agent }

    values = {
      'city_from' : 69,
      'radius_from' : 0,
      'city_to' : 263,
      'radius_to' : 0,
      'date' : 'date',
      'day' : 5,
      'month' : 03,
      'year' : 2012,
      'tolerance' : 0
    }

    data = urllib.urlencode(values)
    # req = urllib2.Request(url+data, None, header) # GET works fine
    req = urllib2.Request(url, data, header)  # POST request doesn't not work

    self.response = urllib2.urlopen(req)

这似乎是一个像这里讨论的问题:Python URLLib / URLLib2 POST,但我很确定在我的情况下,尾部斜杠没有丢失。;)

我担心这可能是一个愚蠢的误解,但我已经想了好几个小时了!



编辑:打印的便利功能:

def response_to_str(response):
    return response.read()

def dump_response_to_file(response):
    f = open('dump.html','w')
    f.write(response_to_str(response))



编辑2:解决方案:

我找到了一个工具来捕捉与网站的真实互动, http: //fiddler2.com/fiddler2/。显然,服务器从输入表单中获取数据,重定向几次,然后使用简单地附加到 url 的数据发出 GET 请求。
urllib2 一切都很好,我为滥用您的时间而道歉!

4

4 回答 4

15

您需要检查的事项:

  • 您确定要发布到正确的 URL 吗?
  • 您确定可以在不登录的情况下检索结果吗?
  • 向我们展示一些不同帖子值的示例输出。

您可以使用 Firefox 的Firebug或 Google Chromes DevTools找到正确的帖子 URL 。

我为您提供了一些支持 cookie 的代码,以便您可以先登录并使用 cookie 使用您的 post 参数发出后续请求。

最后,如果您可以向我们展示一些示例 HTML 输出,那将使生活更轻松。

这是我的代码,到目前为止,它对我来说非常可靠,可以发布到大多数网页,包括受CSRF/XSRF保护的页面(只要您能够正确确定发布的内容和发布的位置(哪个 URL)) )。

import cookielib
import socket
import urllib
import urllib2

url = 'http://www.mitfahrgelegenheit.de/mitfahrzentrale/Dresden/Potsdam.html/'
http_header = {
                "User-Agent" : "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.46 Safari/535.11",
                "Accept" : "text/xml,application/xml,application/xhtml+xml,text/html;q=0.9,text/plain;q=0.8,text/png,*/*;q=0.5",
                "Accept-Language" : "en-us,en;q=0.5",
                "Accept-Charset" : "ISO-8859-1",
                "Content-type": "application/x-www-form-urlencoded",
                "Host" : "www.mitfahrgelegenheit.de",
                "Referer" : "http://www.mitfahrgelegenheit.de/mitfahrzentrale/Dresden/Potsdam.html/"
                }

params = {
  'city_from' : 169,
  'radius_from' : 0,
  'city_to' : 263,
  'radius_to' : 0,
  'date' : 'date',
  'day' : 5,
  'month' : 03,
  'year' : 2012,
  'tolerance' : 0
}

# setup socket connection timeout
timeout = 15
socket.setdefaulttimeout(timeout)

# setup cookie handler
cookie_jar = cookielib.LWPCookieJar()
cookie = urllib2.HTTPCookieProcessor(cookie_jar)

# setup proxy handler, in case some-day you need to use a proxy server
proxy = {} # example: {"http" : "www.blah.com:8080"}

# create an urllib2 opener()
#opener = urllib2.build_opener(proxy, cookie) # with proxy
opener = urllib2.build_opener(cookie) # we are not going to use proxy now

# create your HTTP request
req = urllib2.Request(url, urllib.urlencode(params), http_header)

# submit your request
res = opener.open(req)
html = res.read()

# save retrieved HTML to file
open("tmp.html", "w").write(html)
print html
于 2012-03-04T01:25:40.133 回答
1

只是为了结束这个问题:
问题确实是,服务器不期望一个 POST 请求(尽管它应该考虑用例)。所以(再一次)框架没有被破坏。;)

于 2012-04-08T20:04:55.980 回答
0

尝试将这对添加到您的标题中:

   'Content-type': 'application/x-www-form-urlencoded'
于 2012-03-02T23:21:02.497 回答
0

尝试从 URL 中删除尾部斜杠,如下所示:

url = 'http://www.mitfahrgelegenheit.de/mitfahrzentrale/Dresden/Potsdam.html'

POST请求的服务器脚本可能实际上并不支持POST请求。

于 2012-03-02T23:35:31.487 回答