google-cloud-platform - Vertex AI 返回与本地 tflite 模型不同的结果

Question

我在 Vertex AI 上上传了我的 tflite 模型并创建了一个端点，我请求使用一些输入值进行推理，但它返回的结果与我的本地 tflite 模型的推理结果不同。

输入值是 float32 数组（实际上是采样的音频数据），我将此代码用于请求。虽然输入数组相同，但是本地 tflite 模型和 Vertex AI 上传的模型返回的结果相差很大。

传输到 Vertex AI 实例时，值是否存在失真的可能性？

Answer 1

请记住，请求的编码是“数字”。没有整数或浮点数。这就是 JSON 的定义方式，以及它的等效 gRPC。

您也可以尝试使用 rawPredict API 而不是 predict。