google-cloud-vertex-ai - 如何查看和解释 Vertex AI 日志

Question

我们已经在 Vertex AI 端点中部署了模型。现在我们想了解和解释有关节点创建、POD 创建、用户 API 调用矩阵等事件的日志。

有什么方法或关键字可以过滤分析日志吗？

Answer 1

由于您没有具体说明您的问题，我将提供一个非常笼统的答案，这可能会对其他成员有所帮助。

有一个解释Vertex AI日志信息的文档 - Vertex AI audit logging information。

Google Cloud 服务会编写审核日志来帮助您回答以下问题：“谁在何时何地做了什么？” 在您的 Google Cloud 资源中。

目前Vertex AI支持 2 种类型的审计日志：

• 管理员活动审核日志

管理员活动审核日志包含 API 调用或修改资源配置或元数据的其他操作的日志条目。例如，这些日志记录用户何时创建 VM 实例或更改身份和访问管理权限。

• 数据访问审核日志

数据访问审核日志包含读取资源配置或元数据的 API 调用，以及创建、修改或读取用户提供的资源数据的用户驱动的 API 调用。

其他两个喜欢System Event logs并且Policy Denied logs目前不支持Vertex AI. 在带有审核日志的 Google 服务指南中，您可以找到更多信息。

如果要查看审计日志，可以使用Console, gcloudcommand 或API. 根据您想要获取它们的方式，您应该按照查看审核日志中提到的步骤进行操作。例如，如果您要使用Console，您将使用Log Explorer。

可能有帮助的其他线程：

• 我们如何捕获谷歌 Vertex AI 上的所有容器日志？
• 如何在 Vertex AI 中构建容器日志？

Answer 2

For container logs (logs that are created by your model) you can't currently, the entire log entry is captured by the Vertex AI platform and assigned as a string to the "message" field within the parent "jsonPayload" fields, the answer above of @PjoterS suggests a workaround to that limitation which isn't easy in my opinion. It would have been better if Vertex had offered some mechanism by which you could log directly to the endpoint resource from the container using their gcloud logging lib or better, unpack the captured log fields as sub fields to the "jsonPayload" parent field, or into "message"