我想在不使用 appengine mapreduce 的情况下将日志从 appengine 应用程序提取到 bigquery 吗?
4 回答
我们在此处开源了将 appengine 日志迁移到 bigquery 的 Java 实现:http: //blog.streak.com/2012/07/export-your-google-app-engine-logs-to.html
请参阅此处的 bigquery 文档。您可以发布包含要添加到表中的数据的多部分 http 请求。如果您正在进行追加,则无需提供架构。
还有一个名为“log2bq”的 Python 运行时实现,它演示了如何将 App Engine 日志提取到 BigQuery:http ://code.google.com/p/log2bq/
Google 最近发布了一个名为“Google Cloud Logging:日志导出”的(BETA)功能 https://cloud.google.com/logging/docs/install/logs_export
他们将其总结为:
将您的 Google Compute Engine 日志和 Google App Engine 日志导出到 Google Cloud Storage 存储桶、Google BigQuery 数据集、Google Cloud Pub/Sub 主题或三者的任意组合。
我还没有尝试过这项新服务提供的所有功能,但是......
我们最近开始在我们的 Python GAE 项目中使用“将 App Engine 日志流式传输到 BigQuery”功能。这会将我们应用的日志直接发送到 BigQuery,因为它们正在发生,以便在 BigQuery 数据集中提供近乎实时的日志记录。