问题标签 [urlfetch]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
575 浏览

python - Google App Engine - 无法正确接收 GZIP HTML 文件

Python 和 Google App Engine 专家,

我想检索位于此链接的道明银行抵押贷款利率网站:

“http://tdbank.mortgagewebcenter.com/Default.asp”

今天晚上我通过教程学习了 Python 和 Google App Engine,但我一直被我认为可能是 GZIP 问题所困扰。

理想情况下,我希望有人修复我在下面粘贴的代码。或者提供正确的代码(如果这样更容易)以成功接收该网页并能够在 python/google 应用程序引擎中解析它。

尝试 1 - URLFETCH

尝试 2 - URLLIB2

YAML 文件:

在这两种情况下,我的浏览器都会被重定向到

如果我将尝试读取的 URL 更改为另一个网页,例如 www.google.com,则输出会正确打印。

提前感谢您的帮助,我真的很感激。

-托德

0 投票
1 回答
2849 浏览

python - Google App Engine - 使用 URLFetch 处理基本 Cookie

专家们,

使用谷歌应用引擎检索即使是最基本的网站似乎也非常具有挑战性!

就我而言,我想通过以下网址检索网站:

http://tdbank.mortgagewebcenter.com/PowerSite/CheckRates.aspx/Index/9809

我想接受所有 cookie,然后 POST 对此 url 的响应(这是一个简单的表单帖子):

http://tdbank.mortgagewebcenter.com/PowerSite/CheckRates.aspx/Search

我想发布的字符串是:

我遇到的问题是网页在我的网络浏览器上声明“未启用 Cookie”。

正如您从下面的代码中看到的那样,我尝试手动添加 cookie,但这并不成功。

请帮忙!-托德

yaml 文件:

0 投票
2 回答
27508 浏览

google-apps-script - Google 应用脚本 urlfetch 编码 URL

我想使用 urlfetch 用页面数据填充电子表格,但我尝试使用的 URL 以错误作为无效参数返回。我认为问题在于我在 URL 中使用了被误解的字符(例如引号和括号)。

我尝试使用下面的命令对 URL 进行编码,但我假设我对某些字符进行了双重编码,这会导致问题。

0 投票
2 回答
1490 浏览

java - 通过 url fetch 服务从谷歌应用引擎发送 post 请求时,viewstate MAC 的验证失败

我的任务是从网站获取 html,在我进入需要登录的页面之前。

我使用低级 api url 获取服务。这是我的代码测试代码:

这是我的默认用户代理:

它在我的开发机器上运行良好,但是当我在应用引擎上部署并测试它时,我得到响应代码 500 和以下错误:

视图状态 MAC 验证失败。如果此应用程序由 Web Farm 或集群托管,请确保 > 该配置指定相同的验证密钥和验证算法。>AutoGenerate 不能在集群中使用。

说明:执行当前 Web 请求期间发生未处理的异常。请>查看堆栈跟踪以获取有关错误及其源自代码的位置的更多信息。

异常详细信息:System.Web.HttpException:视图状态 MAC 验证失败。如果此应用程序 > 由 Web Farm 或集群托管,请确保配置指定相同的 >validationKey 和验证算法。AutoGenerate 不能在集群中使用。

似乎在 ASP 端发生了一些错误。

我的代码有问题还是应用引擎有一些限制?

0 投票
1 回答
97 浏览

http-headers - setValue(contLength) 返回意外值

这是完整的脚本。

我在这里期待一个 int 值 - sheet1.getRange(i+1,3).setValue(contLength)。相反,每次执行脚本时,它都会带来 undefined 或 int 值。

这里可能是什么问题?

谢谢,萨米尔

0 投票
1 回答
322 浏览

google-apps-script - Google Url 获取服务突然开始失败

我一直在附加到 docs 电子表格的脚本中使用 google code Url fetch 服务,它已经工作了一年多。但突然,在将文档迁移到谷歌驱动器后,服务开始失败。

这是格式:

失败报告一直说......“意外错误”,而代码 4 一年多没有改变。

请问我应该怎么做才能把事情整理好?

0 投票
1 回答
1621 浏览

python - 无法使用 urlfetch 或 urllib2 从 App Engine 开发服务器连接到外部服务

以下代码在 Python 交互式 shell 中工作:

并给出 200 结果。

如果我在使用开发服务器在本地运行的 AppEngine 应用程序中运行相同的代码,则会失败并出现以下错误:

我试过urlfetch直接使用这个库:

这也失败了(这是有道理的,因为我相信urllib2在 AppEngineURLFetch内部调用?)

我可以清楚地从本地计算机访问 URL - 那么发生了什么?

更新:相关的堆栈跟踪:

0 投票
1 回答
1338 浏览

google-app-engine - 如何全局设置 URL 获取超时?

我正在开发一个在 App Engine 上运行的应用程序。我的一项任务调用了 Web 服务。为此,我使用 JAX-RS。但是,其中一个调用达到了应用引擎设置的超时时间(5 秒)。我想将此超时增加到 10 秒,但我无法修改它。实际上,JAX-RS 不允许捕获创建的 HttpConnection 对象。

我的问题是:是否可以全局配置 URL Fetching 的超时时间?

谢谢

0 投票
3 回答
2659 浏览

post - 什么是 UrlFetch 帖子大小限制?

我试图找出UrlFetchAppPOST 大小限制是什么?脚本将一些电子邮件附件上传到 Web 服务,并返回以下错误:

“超出限制:UrlFetch 帖子大小。(第 XX 行)”。

除了向它发送一堆不同大小的文件之外,我无法解决这个问题。

0 投票
1 回答
271 浏览

python - URL fetch: 在 python/django 中防止滥用、邮件 URL 等

我正在建立一个网页,其特色非常类似于 facebook 墙/新闻源。注册用户(或通过 Facebook-connect、google auth)可以提交 url。目前,我正在使用这些 URL 并使用 urllib2 来获取 URL 的内容并搜索相关信息,例如 og:properties、HTML 标题标签和图像的一些标签。

现在,我知道当我让用户向我的服务器提供要打开的 URL 时,我将我的服务器置于危险之中。

我的问题是风险有多高?我可以进行哪些标准安全检查?

至于现在,我只是在没有任何“主动”保护的情况下打开 url,因为我不知道要检查什么。

以及如何将获取的内容存储到数据库中。django 是否具有针对 SQL 注入的内置保护?

谢谢!