目标:通过执行自定义预测逻辑来服务来自 Vertex AI 端点的预测请求。
详细步骤:例如,我们可能已经在GCS bucket中上传了一个image_quality.pb模型(在non-vertex-ai pythonic环境下开发)
接下来,我们希望通过反序列化部署的模型并在顶点 AI 端点中提供推理功能来创建自定义图像推理逻辑
最后,我们希望将图像列表(存储在另一个 GCS 存储桶中)传递给该端点。
我们还希望在 tensorboard 中查看日志和指标。
现有的 Vertex AI 代码示例提供了调用 model.batch_predict / 端点的示例。预测,但不要提及如何执行自定义预测代码。
如果有人可以提供文档/代码的指南和链接以实施上述步骤,那就太好了。
提前致谢!