docker - 如何为不属于亚马逊估算器的 Sagemaker 创建 docker 映像以创建端点？

Question

我在 Sagemaker 中构建了一个自定义模型，并通过 pickle 对模型进行了序列化。我想通过 Sagemaker 托管服务部署我的模型并通读此

https://docs.aws.amazon.com/sagemaker/latest/dg/how-it-works-hosting.html

但是我不知道如何使用当前未作为 Amazon Estimator 的一部分实施的算法为自定义模型构建我自己的 Docker 容器。

如何构建自己的 docker 映像以加载到 ECR 中，然后构建允许我创建端点的容器？

Answer 1

看看这个指南：https ://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container

它展示了如何为训练作业和端点部署创建容器。

如果只需要部署 Endpoint，可以跳过训练部分。

如文档中所述，对于 SageMaker 端点，您需要一个 Docker 容器，其中实现了一个 Web 服务器，该容器在路由“/ping”和“/invocations”处侦听 HTTP 请求。在指南中，他们使用 NGINX 和 Gunicorn 实现了一个烧瓶 Web 服务器。

对于您的用例： https ://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container/decision_trees

在此目录中，您可以跳过“train”文件并保持其余文件不变，但“predictor.py”文件除外。这是您将修改以实现您自己的推理算法的文件。