0

我正在尝试将 yolov4 的已保存模型(.pb tensorflow 文件)转换为 onnx 以进行 tensorrt 推理。我能够在转换为 onnx 之前设置输入形状(如文档中所示,借助输入签名参数)。但是我无法找到任何地方来设置输出签名。我想设置它,因为输出层的形状是[None, None, None]根据模型摘要。在张量流中通过模型推断运行时,返回[1, None, 84](意味着第一个和第三个索引是固定的,第二个元素是变化的)。我尝试在不设置输出形状的情况下转换为 onnx,然后尝试运行 tensorrt 推理。然而,张量的输出形状永远[10647]不会被重塑成[1, None, 84]. 这可以通过设置 onnx 模型的输出形状来解决,还是我需要对 tensorrt 输出进行任何后处理?

4

0 回答 0