1

我正在尝试使用静态尺寸构建 cuda 引擎并参考此文档:https ://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html

但是,我一直看到以下错误:

[TensorRT] ERROR: (Unnamed Layer* 249) [PluginV2Ext]: PluginV2Layer must be V2DynamicExt when there are runtime input dimensions.

此错误指向运行时输入尺寸,但是,我需要指定并使用静态尺寸。我搜索了很多在线论坛,但是,它们都是关于使用运行时维度和使用优化配置文件的。

我还尝试创建和配置具有相同 MIN/OPT/MAX 的优化配置文件,如下所示,但这也没有帮助。

profile = builder.create_optimization_profile();
profile.set_shape("foo", (1, 3, 100, 200), (1, 3, 100, 200), (1, 3, 100, 200)) 
config.add_optimization_profile(profile)

谁能提供一些关于我如何使用静态尺寸而不是禁用运行时输入尺寸检查的观点?

4

0 回答 0