tensorflow - 尝试通过 Tensorflow Serving 使用 Universal Sentence Encoder Lite/2

Question

我使用 Universal Sentence Encoder Lite 版本创建了 SavedModel。如果我使用 tf.saved_model.loader.load 加载 SavedModel，它工作得非常好。

但是，如果我尝试使用 Tensorflow Serving 为模型提供服务，则会收到以下错误：

"error": "indices[3] = 1 is not in [0, 1)\n\t [[Node: lite_module_apply_default/Encoder_en/KonaTransformer/ClipToMaxLength/GatherV2_1 = GatherV2[Taxis=DT_INT32, Tindices=DT_INT64, Tparams=DT_INT64 , _output_shapes=[[?]], _device="/job:localhost/replica:0/task:0/device:CPU:0"](_arg_qsph_v_0_7, lite_module_apply_default/Encoder_en/KonaTransformer/ClipToMaxLength/Reshape, lite_module_apply_default_1/Encoder_en/KonaTransformer /SequenceMask/Const)]]"

为什么会发生这种情况？

蟒蛇版本：3.6

张量流版本：1.9.0

tensorflow_hub 版本：0.1.1

使用张量流/服务泊坞窗 1.11

Answer 1

我以行格式给出输入张量。通过将输入张量的格式更改为columnar format，我能够纠正这个问题。可以在此处找到行和列格式的详细说明。