0

我正在使用 BentoML 为 BERT 模型构建 docker 容器,然后在 GKE 上使用 Seldon 部署它。该模型的 REST API 端点工作正常。在与 Seldon 的兼容性方面,Prometheus 正在抓取这些指标并在 Grafana 上进行可视化。唯一似乎不工作的 Seldon 组件是请求日志记录,我已经为部署在 Seldon 上的其他应用程序工作。我正在使用这里的弹性堆栈。据我了解,请求日志记录应该仍然兼容,唯一丢失的功能应该是 Seldon 的模型元数据。关于如何使集中式请求日志记录工作的任何见解?没有显示错误;只是没有捕获日志并将其发送到 ElasticSearch。

4

0 回答 0