我已经使用 EC2 上的 docker 容器部署了 NER 模型。生成的 docker 镜像占用了 3GB 的所有依赖项。我有几个关于部署多个 ML 模型的问题。
- 我是否需要为每个应用程序创建一个映像并使用 Kubernetes 进行编排?
- 如果是这样,有没有办法让所有应用程序都具有全局环境依赖关系。我认为为每个应用程序创建 2GB 的 docker 镜像是一种低效的方法。
- 在这种情况下遵循哪些常见做法?
我已经使用 EC2 上的 docker 容器部署了 NER 模型。生成的 docker 镜像占用了 3GB 的所有依赖项。我有几个关于部署多个 ML 模型的问题。