0

我想在 selenium-wire 中获取响应正文作为字符串，我最终将其解析为 JSON。

response.body在 selenium-wire 中给出字节字符串。我尝试将其解码为，response.body.decode('utf-8')但这会导致解码错误。

有人可以帮我弄这个吗？我对这两种解决方案都很好：

  1. 一种将字节字符串解码为普通字符串的方法
  2. 一种首先将响应正文作为普通字符串的方法
4

4 回答 4

1

我想分享我的解决方案，它对我有用。

在 python >= 3.5.x

from seleniumwire import webdriver
import chromedriver_autoinstaller
import brotli

chromedriver_autoinstaller.install()
driver = webdriver.Chrome()

driver.get('https://www.facebook.com')

for request in driver.requests:
    if request.url == "https://www.facebook.com/":
        resp = request.response.body
        resp = brotli.decompress(resp)
        print(resp[0:200].decode("utf-8"))

driver.quit()
于 2021-06-27T17:34:49.853 回答
1

默认情况下，selenium-wire 以字节形式返回正文响应。

文档说：

“响应正文为字节。如果响应没有正文，则正文的值将为空，即 b''。有时正文可能已由服务器编码 - 例如压缩。您可以使用 disable_encoding 选项防止这种情况。手动解码您可以执行的编码响应正文：

from seleniumwire.utils import decode

body = decode(response.body, response.headers.get('Content-Encoding', 'identity'))"

它对我有用。

于 2021-09-01T00:14:41.403 回答
0

我想出了一种方法来做到这一点（不是理想的方法）在制作 selenium webdriver 对象时，您可以传递一个参数options，您可以在其中明确告诉它提供解码的请求和响应对象，而不是作为字节。

于 2021-04-30T18:58:40.027 回答
0

把这个：

decode(request.response.body, request.response.headers.get('Content-Encoding', 'identity'))

在你发表声明之前：

response.body.decode('utf-8')

完整代码：

from seleniumwire import webdriver
from seleniumwire.utils import decode as sw_decode

browser = webdriver.Chrome()

browser.get(url)

for request in browser.requests:
    if request.url == url:
        data = sw_decode(request.response.body, request.response.headers.get('Content-Encoding', 'identity'))
        data = data.decode("utf8")
        print(type(data))
        break

browser.quit()

输出：

<class 'str'>

于 2021-12-28T03:17:09.913 回答