intel - 如何将 OpenVINO IR 模型部署到英特尔 Movidius Myriadx VPU

Question

我搜索了一段时间，找不到任何关于将 OpenVINO IR 模型直接部署到 Intel 的 MyriadX VPU 的文档。

我的理解是它们都来自英特尔，应该有办法做到这一点。

我可以尝试什么来解决这个问题？

Answer 1

如果您阅读了我之前分享的文档，您会注意到 -h 参数将显示使用该 compile_tool 可以完成的所有操作。你会在那里得到答案。

运行 compile_tool：compile_tool.exe -m "model_location\efficientdet-d0-tf\FP16\efficientdet-d0-tf.xml" -d MYRIAD -o "location_you_want_to_store_the_blob\blob_efficientdet\blob_filename_must_have.blob"

数据表/文档现在是您最好的朋友，请务必阅读并尝试理解它们。

还有一点需要注意的是，任何与 NCS2/MYRIAD/VPU 相关的东西都必须是 FP16 格式。

Answer 2

要使用 MYRIAD 推断 IR，您可以为此目的使用OpenVINO 官方示例。使用 -d MYRIAD 参数在 Myriad 上运行它。

不要忘记安装插件。

这似乎与这个Github 线程是同一个问题。