0

我是 GCP 的新手，所以请原谅这里可能会询问/遗漏一些明显的东西。

我正在尝试使用自定义 pytorch 模型在 GCP 上部署和创建版本资源。在我尝试创建模型的新版本之前，一切都运行良好。然后我不断收到： INVALID_ARGUMENT：机器类型在此端点上不可用。

我试过在他们的列表中切换不同类型，但没有运气。我错过了什么？

这是我运行部署的脚本：

MODEL_NAME='test_iris'
MODEL_VERSION='v1'
RUNTIME_VERSION='2.4'
MODEL_CLASS='model.PyTorchIrisClassifier'
PYTORCH_PACKAGE='gs://${BUCKET_NAME}/packages/torch-1.8.1+cpu-cp37-cp37m-linux_x86_64.whl'

DIST_PACKAGE='gs://${BUCKET_NAME}/models/Test_model-0.1.tar.gz'
GCS_MODEL_DIR='models/'
REGION="europe-west1"


# Creating model on AI platform
gcloud alpha ai-platform models create ${MODEL_NAME}\
--region=europe-west1 --enable-logging \
--enable-console-logging

gcloud beta ai-platform versions create ${MODEL_VERSION} --model=${MODEL_NAME} \
    --origin=gs://${BUCKET_NAME}/${GCS_MODEL_DIR} \
    --python-version=3.7 \
    --machine-type=mls1-c4-m2\
    --runtime-version=${RUNTIME_VERSION} \
    --package-uris=${DIST_PACKAGE},${PYTORCH_PACKAGE} \
    --prediction-class=${MODEL_CLASS}

谢谢！

4

1 回答 1

0

根据文档，您只能在为您的模型版本使用旧 (MLS1) 机器类型时部署自定义预测例程。但是，您不能在这种类型的机器上使用区域端点，如此处所述，

  • 区域端点仅支持 Compute Engine (N1) 机器类型。您不能在区域端点上使用旧版 (MLS1) 机器类型。

如我所见，您已使用标志指定了一个区域端点，该--region标志不支持您的用例所需的机器类型。因此，您需要将模型及其版本更改为全局端点，这样您就不会再遇到错误了。

此外，当您在 中指定区域端点时gcloud create model --region，您需要在创建模型的版本时指定相同的区域。另一方面，在全局端点中创建模型时gcloud create model --regions，可以省略命令中的区域标志gcloud ai-platform versions create。请注意，该--regions命令仅用于全局端点

最后，我必须指出，根据文档，在为全局端点选择区域时，--regions在创建模型时使用标志，您的预测节点在指定区域中运行。虽然，管理您的资源的 AI Platform 基础架构可能不一定在同一区域中运行。

于 2021-05-06T07:26:37.220 回答