问题标签 [urlfetch]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - Google App Engine - 无法正确接收 GZIP HTML 文件
Python 和 Google App Engine 专家,
我想检索位于此链接的道明银行抵押贷款利率网站:
“http://tdbank.mortgagewebcenter.com/Default.asp”
今天晚上我通过教程学习了 Python 和 Google App Engine,但我一直被我认为可能是 GZIP 问题所困扰。
理想情况下,我希望有人修复我在下面粘贴的代码。或者提供正确的代码(如果这样更容易)以成功接收该网页并能够在 python/google 应用程序引擎中解析它。
尝试 1 - URLFETCH
尝试 2 - URLLIB2
YAML 文件:
在这两种情况下,我的浏览器都会被重定向到
如果我将尝试读取的 URL 更改为另一个网页,例如 www.google.com,则输出会正确打印。
提前感谢您的帮助,我真的很感激。
-托德
python - Google App Engine - 使用 URLFetch 处理基本 Cookie
专家们,
使用谷歌应用引擎检索即使是最基本的网站似乎也非常具有挑战性!
就我而言,我想通过以下网址检索网站:
http://tdbank.mortgagewebcenter.com/PowerSite/CheckRates.aspx/Index/9809
我想接受所有 cookie,然后 POST 对此 url 的响应(这是一个简单的表单帖子):
http://tdbank.mortgagewebcenter.com/PowerSite/CheckRates.aspx/Search
我想发布的字符串是:
我遇到的问题是网页在我的网络浏览器上声明“未启用 Cookie”。
正如您从下面的代码中看到的那样,我尝试手动添加 cookie,但这并不成功。
请帮忙!-托德
yaml 文件:
google-apps-script - Google 应用脚本 urlfetch 编码 URL
我想使用 urlfetch 用页面数据填充电子表格,但我尝试使用的 URL 以错误作为无效参数返回。我认为问题在于我在 URL 中使用了被误解的字符(例如引号和括号)。
我尝试使用下面的命令对 URL 进行编码,但我假设我对某些字符进行了双重编码,这会导致问题。
java - 通过 url fetch 服务从谷歌应用引擎发送 post 请求时,viewstate MAC 的验证失败
我的任务是从网站获取 html,在我进入需要登录的页面之前。
我使用低级 api url 获取服务。这是我的代码测试代码:
这是我的默认用户代理:
它在我的开发机器上运行良好,但是当我在应用引擎上部署并测试它时,我得到响应代码 500 和以下错误:
视图状态 MAC 验证失败。如果此应用程序由 Web Farm 或集群托管,请确保 > 该配置指定相同的验证密钥和验证算法。>AutoGenerate 不能在集群中使用。
说明:执行当前 Web 请求期间发生未处理的异常。请>查看堆栈跟踪以获取有关错误及其源自代码的位置的更多信息。
异常详细信息:System.Web.HttpException:视图状态 MAC 验证失败。如果此应用程序 > 由 Web Farm 或集群托管,请确保配置指定相同的 >validationKey 和验证算法。AutoGenerate 不能在集群中使用。
似乎在 ASP 端发生了一些错误。
我的代码有问题还是应用引擎有一些限制?
http-headers - setValue(contLength) 返回意外值
这是完整的脚本。
我在这里期待一个 int 值 - sheet1.getRange(i+1,3).setValue(contLength)。相反,每次执行脚本时,它都会带来 undefined 或 int 值。
这里可能是什么问题?
谢谢,萨米尔
google-apps-script - Google Url 获取服务突然开始失败
我一直在附加到 docs 电子表格的脚本中使用 google code Url fetch 服务,它已经工作了一年多。但突然,在将文档迁移到谷歌驱动器后,服务开始失败。
这是格式:
失败报告一直说......“意外错误”,而代码 4 一年多没有改变。
请问我应该怎么做才能把事情整理好?
python - 无法使用 urlfetch 或 urllib2 从 App Engine 开发服务器连接到外部服务
以下代码在 Python 交互式 shell 中工作:
并给出 200 结果。
如果我在使用开发服务器在本地运行的 AppEngine 应用程序中运行相同的代码,则会失败并出现以下错误:
我试过urlfetch
直接使用这个库:
这也失败了(这是有道理的,因为我相信urllib2
在 AppEngineURLFetch
内部调用?)
我可以清楚地从本地计算机访问 URL - 那么发生了什么?
更新:相关的堆栈跟踪:
google-app-engine - 如何全局设置 URL 获取超时?
我正在开发一个在 App Engine 上运行的应用程序。我的一项任务调用了 Web 服务。为此,我使用 JAX-RS。但是,其中一个调用达到了应用引擎设置的超时时间(5 秒)。我想将此超时增加到 10 秒,但我无法修改它。实际上,JAX-RS 不允许捕获创建的 HttpConnection 对象。
我的问题是:是否可以全局配置 URL Fetching 的超时时间?
谢谢
post - 什么是 UrlFetch 帖子大小限制?
我试图找出UrlFetchApp
POST 大小限制是什么?脚本将一些电子邮件附件上传到 Web 服务,并返回以下错误:
“超出限制:UrlFetch 帖子大小。(第 XX 行)”。
除了向它发送一堆不同大小的文件之外,我无法解决这个问题。
python - URL fetch: 在 python/django 中防止滥用、邮件 URL 等
我正在建立一个网页,其特色非常类似于 facebook 墙/新闻源。注册用户(或通过 Facebook-connect、google auth)可以提交 url。目前,我正在使用这些 URL 并使用 urllib2 来获取 URL 的内容并搜索相关信息,例如 og:properties、HTML 标题标签和图像的一些标签。
现在,我知道当我让用户向我的服务器提供要打开的 URL 时,我将我的服务器置于危险之中。
我的问题是风险有多高?我可以进行哪些标准安全检查?
至于现在,我只是在没有任何“主动”保护的情况下打开 url,因为我不知道要检查什么。
以及如何将获取的内容存储到数据库中。django 是否具有针对 SQL 注入的内置保护?
谢谢!