tensorflow - 将 TensorFlow 模型从 Object Detection API 转换为 uff

Question

似乎，由于很多不受支持的层，无法从盒子 Mobilenet（以及 TF OD API 的其他模型）转换为 uff 格式，然后再转换为 TensorRT 格式。有没有办法删除\替换那些层？例如使用 graph_transform 工具可能吗？我理解并非所有这些层的目的。这是默认模型，如果有人想尝试。

Answer 1

UFF 转换工具似乎卡在一些无法识别的层上，也许这会在 GA 版本中得到改进。现在，您需要删除这些层（并且只保留推理所需的最小子集），然后使用 nvinfer 插件 API 实现这些层。

Answer 2

从 2017 年开始，仍然没有重大进展。已经开发了许多新的网络，但 UFF 和 TensorRT 转换器即使从 2017 年开始仍然无法与许多模型一起使用，我能说什么关于 2019 年。

互联网上还有一些间接信息，从某种意义上说，NVIDIA 中的 UFF 和 TRT 转换工作非常小，只有几个人。所以似乎这条路是死路一条。

更好的方式和他们所指望的方式是框架本身内部的转换工具。就像Tensorflow 使用他们的 TRT 绑定一样。

通过这种方法，框架开发人员而不是 Nvidia 添加了新层，因为那里的人跟不上市场营销的步伐。所以最终获得工作工具的机会更多。