python - python中的Tensorrt插件和caffe解析器

Question

我是 Tensorrt 的新手，对 C 语言也不太熟悉。请问是否有任何示例可以导入caffe modell(caffeparser)，同时使用python 插件。插件库示例：“ https://docs.nvidia.com/deeplearning/sdk/tensorrt-api/c_api/_nv_infer_plugin_8h_source.html ”。

我看到一个例子做类似下面的事情。是否需要修改 pluginfactory 类？还是已经用python插件api完成了？

import tensorrt
import tensorrtplugins
from tensorrt.plugins import _nv_infer_plugin_bindings as nvinferplugin
from tensorrt.parsers import caffeparser

plugin_factory = tensorrtplugins.FullyConnectedPluginFactory()
parser = caffeparser.create_caffe_parser()
parser.set_plugin_factory(plugin_factory)

engine = trt.utils.caffe_to_trt_engine(G_LOGGER,
MODEL_PROTOTXT,
CAFFE_MODEL,
1,
1 << 20,
OUTPUT_LAYERS,
trt.infer.DataType.FLOAT,
plugin_factory
)

Ps：我正在尝试将YOLO2转换为Tensorrt格式。因此，某些层（例如 kYOLOREORG 和 kPRELU）只能由插件支持。

另一种方法是在构建网络期间通过方法 network.add_plugin_ext() 添加插件？但是，我不太确定如何指定稍后要导入的前一层。

非常感谢您的回答。您的帮助将不胜感激！