问题标签 [google-cloud-shell]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - 将抓取的数据 csv 文件从 docker 容器内保存到本地主机
我运行 python webscraper 来收集各种网站上的文章,然后将其保存为 csv 文件。我一直在手动运行这些,但最近一直在尝试在 google cloud shell 中运行它们。我在依赖关系方面遇到了一些问题,所以我决定构建一个 docker 映像来运行我的 python scraper
到目前为止,我已经成功创建了一个 Dockerfile,用于构建具有所有必要依赖项的容器。
fin24.py 包含我的刮板。Fin24 是一个 txt 文件,其中包含我的爬虫抓取文章链接的所有基本 URL,然后再进入每篇文章并提取内容。scraped_list.csv 包含我之前抓取的所有网站,我的 python 脚本会检查这些网站以确保我不会再次抓取同一篇文章。
运行上述内容后,我可以看到它有效。python 脚本在它找到的所有网站都被抓取后停止。但是,我猜它正在将 csv 文件(输出)保存在 docker 容器中。我怎么能把它保存到我正在运行 docker 的目录中?
最终,我想简单地将 Dockerfile 上传到我的谷歌云 shell,并将其作为 cronjob 运行,并将所有输出保存在 shell 中。任何帮助将非常感激
google-app-engine - 从 Google Cloud Shell 导入应用程序模型
我对 Google App Engine 非常非常陌生,但我需要管理一个使用它的基于 WebApp2(即 Python)的网站。具体来说,我需要过滤查询集并删除某些模型实例。
在本地构建站点很好。在本地,我可以通过点击来获取模型
在我的浏览器中。这会调出“交互式控制台”,我可以在其中放置一些代码,例如
它会起作用。从那里我可以在数据存储中创建/删除用户对象,因此这个本地交互式控制台似乎具有类似 ORM 的功能。(我来自 Django 背景,所以这让我想起了)。
但是,我似乎在实时网站上没有此选项。我希望能在
当我找到“激活谷歌云外壳”的控件时,我以为我找到了它。这会在 Web 服务器上打开一个命令行,但这里似乎不存在该网站的代码库,因此启动 Python cli 并尝试像我在本地执行的操作那样导入应用程序模型是行不通的。即使我可以,我怀疑它会是一个类似于 Django 的 ORM,就像它在我的本地构建中的方式一样。
我是否以错误的方式思考这个问题?您如何通过 GAE / WebApp2 网站中的后端创建/过滤/删除/等数据存储对象?“谷歌云壳”甚至是答案的一部分吗?
google-cloud-platform - Google Stackdriver Logging 不适用于 Google Cloud Shell 或 GKE
我已经为 GKE 构建了一个 docker 映像,并且想使用 Google Stackdriver Logging。
目前我只是想记录Service started
服务何时启动。
虽然在我的主机上运行容器运行良好(在Google Cloud Console
> Logs Viewer
>Global
中,我可以看到Service started
预期的时间),但在 Google Cloud Shell 上以完全相同的方式运行容器不会记录任何内容。部署到 GKE 的行为完全相同,没有错误,但我找不到所谓的创建日志。
以下是我的集群的范围:
cloud-platform,compute-rw,datastore,default,storage-full,logging-write,service-control,service-management
.
请注意,日志记录客户端已成功创建:
每次在我的集群日志中或在 Google Cloud Shell 中手动运行容器时,我都会收到“已创建日志记录客户端”。但我得到“开始服务!” 仅在我自己的机器上运行容器时。
google-cloud-shell - Cloud Shell 在程序完成运行之前终止
我有一个 python 刮板,用于从电子商务网站收集产品数据。我正在尝试在 google cloud shell 中运行它。该过程本身通常需要 2-3 小时才能完成。但是,鉴于云外壳在“不活动”1 小时后断开连接(尽管我的刮刀仍在运行),我的 python 刮刀从未完成这项工作。有没有办法阻止云外壳自动断开连接?我在 AWS EC2 实例中做了同样的事情,而且效果很好
从更广泛的意义上说,有没有一种方法可以让我启动一个谷歌计算实例,开始在上面运行一个程序,这样我就可以让它运行而不必经常连接它,然后再回来几个小时后,程序的输出(在我的例子中是 csv 文件)等着我。似乎我错过了一些东西,因为仅仅因为我没有在操作系统上轻敲而终止实例并杀死我的网络爬虫似乎很愚蠢
非常感谢任何帮助/建议,谢谢
google-app-engine - Google Cloud Shell 无法显示 Google Storage 中存在的文件
可用的图像1清楚地显示存储桶包含一个名为 cloudml-samples-master 的文件夹和一个名为 setup.py 的文件
但是,在 Google Cloud Shell 中输入命令ls时,它没有给出任何输出。我被这个问题困住了,我几乎尝试了一切,但我无法找到这背后的原因。
此外,当我尝试通过我的 API 访问这些文件时,我收到一条错误消息,显示找不到这些文件。
目录中存在的两个文件都是使用 WebUI 上传的。
补充一下我的看法,到目前为止我的理解是使用 WebUI 上传的文件和使用命令行上传的文件是独立运行的。因为我看到我使用命令行上传的文件没有显示在 UI 中。我这边有什么错误还是与 Cloud Google Storage 有关的问题?
google-cloud-platform - Google Cloud Shell - PermissionDeniedError: /etc/docker; 没有权限
我突然无法在我的 Google Cloud Platform 帐户上运行 Tensorboard。
如何解决这个问题?
gcp - Google Cloud Shell 无法启动
我正在尝试启动 Google Cloud Shell,但它没有启动。它一直说“正在连接:正在建立与您的 Google Cloud Shell 的连接......”但没有任何反应。我在一家公司的网络下,这可能是一个原因。我应该如何调试这个?
google-app-engine - 云外壳上的 dev_appserver 在终止后仍然运行
我正在通过云外壳在谷歌应用引擎上使用 dev_appserver.py 运行开发服务器。
我正在这样做,就像第一个应用程序的教程所说的那样。但是使用我自己的 Flask 应用程序来提供静态文件(index.html + 一些 js 和 css)。
它运行良好,但在我使用ctrl+c终止它后,我仍然可以使用 Web Preview 访问它。
问题是,当我想通过一些更改启动同一个应用程序时,它不会改变 Web Preview 显示的内容。
我尝试过的事情:
- 我使用
ps
. 使用Restart 重新启动shell 。 - 确保使用 shell 实际更改了文件。
- 清除本地浏览器上的缓存数据。使用不同的浏览器。
- 使用 --port 选项以不同的端口启动应用程序。它运行良好,但现在我有 2 台服务器正在运行。
- 如果我在终止 dev_appserver 脚本之前更改代码,它会检测到更改并提交它们。在我终止它之后,即使我再次调用 dev_appserver 它也不会改变。
可能是我实际上并不了解 dev_appserver 的作用?也许 Flask 代码本身仍然以某种方式运行?但是我怎样才能访问它?
应用程序.yaml
kubernetes - 使用 Cloud Shell 和 Kubernetes 进行本地主机重定向
我是 Kubernetes 的新手,一直在努力让 CockroachDB 安全运行。我正在使用 Cockroach 提供的说明和预配置的 .yaml 文件。https://www.cockroachlabs.com/docs/stable/orchestrate-cockroachdb-with-kubernetes.html
我在我的 Google Cloud 控制台中使用 Cloud Shell 来设置所有内容。一切顺利,我可以进行本地 SQL 测试和加载数据。通过代理到 localhost 来监控集群,下面的命令开始按预期服务
但是,当使用端口 8080 上的 cloud shell web 预览附加到 localhost 时,浏览器会话返回“重定向过多”。
我的下一个挑战将是弄清楚如何在公共地址上公开集群,但现在我被困在一个似乎相当基本的问题上。任何建议将不胜感激。