kubernetes - 变压器功能不适用于 Seldon Core

Question

我正在测试 Seldon Core，并且我已经启动并运行了一个示例模型，该模型仅predict在我的服务模型中运行MyModel(object)。现在，我添加transform_input了在将输入发送到类之前预处理输入数据的功能。我再次部署了模型，它似乎工作得很好，但我发现它transform_input不工作或没有使用。我找到了文档和示例，但它只显示添加功能transform_input。我错过了什么吗？

Answer 1

即使你的模型已经提供了一个transform_input函数，你仍然需要将它作为一个TRANSFORMER节点添加到你的推理图中。对于您的特定情况，您需要定义如下图：

  graph:
    name: my-input-transformer
    type: TRANSFORMER
    children:
      - name: my-model
        type: MODEL

两个节点 (my-model和my-input-transformer) 都将指向同一个 Docker 映像。