pytorch - 使用 Google AI Platform 提供 PyTorch 预测的推荐方法

Question

通读谷歌的文档，似乎有两种不同的方式来提供来自 PyTorch 模型的预测。

1. 使用自定义预测例程
2. 创建自定义容器并使用torchserve

尽管选项 1 似乎在阅读诸如此类的在线博客时更受欢迎，但不使用选项 2 似乎很奇怪，因为文档明确提到了 PyTorch。

谁能提供为什么人们可能会选择一个选项而不是另一个选项？

Answer 1

1 更简单，因为您不必担心创建 http 处理程序，但您可能更难以在本地进行测试。

2您构建自己的容器，因此您可以尝试先在本地运行它。因为您必须能够设置 http 处理程序，所以工作量会稍大一些。