google-cloud-platform - 为部署在 Google AI Platform 上的 AI 应用程序公开 API 端点

Question

我已经在 Google Cloud Platform 上以“SavedModel”格式部署了一个 AI 模型。当我通过 AI Platform 上的“测试和使用”工具输入样本输入数据时，该模型能够做出预测。

现在，我想公开 API 端点，以便其他前端应用程序（例如 Android）可以使用这个部署的模型。这样做的程序是什么？我在 Google 提供的文档中找不到太多帮助。

Answer 1

我不是 100% 清楚您的要求，但您可以使用 cURL 进行 REST API 调用。

ACCESS_TOKEN="$(gcloud auth application-default print-access-token)"
curl -X POST -d '{json-input}' https://ml.googleapis.com/v1/projects/{project-name}/models/{model-resource-name}:predict\?access_token\=${ACCESS_TOKEN}

其他资源：

• https://cloud.google.com/ml-engine/docs/online-predict#requesting_predictions
• https://cloud.google.com/ml-engine/docs/v1/predict-request#http-url-format

Answer 2

有很多路径可以为您的自定义模型提供服务，但要对该问题做出简明的回答，但您可以按照以下解决方法通过 API 端点部署自定义模型：

1. 将您的模型上传到存储桶中。
2. 创建模型资源
3. 创建一个版本。
4. 部署
5. 部署后，您可以在前端应用程序中调用端点。（请记住，批量预测尚未在 Python 3.x 上实现）

端点 URL 请求语法：

POST https://ml.googleapis.com/v1/projects/{my-project}/models/{my-model}/versions/{my-version}:predict

不指定版本会将请求重定向到您的默认版本。

以下是有关使用Java 库进行预测的更多信息，以及有关ML 引擎预测的概述。