windows - Windows 上的 DeepStream 推理

Question

如果我在 Linux 上使用 NVidia DeepStream SDK 训练模型，我可以在 Windows 上使用它进行推理吗？

我知道 SDK 不适用于 Windows，但是否有必要进行推理？

我更喜欢没有 docker 的解决方案，但也对 dockered 版本感兴趣。

Answer 1

首先，据我所知，DeepStream 只为您提供必要的代码工具，以便在 Nvidia 硬件（GPU、jetson）上以优化的方式执行推理。

这意味着它不是培训工具。为此，您必须使用 TLT（迁移学习工具包），我目前理解的称为 TAO（训练、适应和优化）。

要构建基于 DeepStream 的应用程序，您需要 SDK。但是，对于部署，最推荐的路线是 Nvidia 在https://ngc.nvidia.com/catalog/containers提供的 Docker 映像。在后一种情况下，不需要 SDK，因为映像具有运行 DeepStream 应用程序所需的一切。