问题标签 [inference-engine]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
2267 浏览

python-3.x - 如何使用 python api 对批量输入进行 TensorRT 7.0 推理?

我正在尝试从使用 TensorRT 7.0 优化的基于 resnet50 的 CNN 中提取特征向量。

当向 trt 模型提供单个输入时,我得到了正确的输出。但是,当我向模型提供批量输入时,我只会为该批次的第一个样本获得正确的输出。剩余的输出只是零。

我还使用“builder.max_batch_size = 16”和“EXPLICIT_BATCH = 1 << (int)(trt.NetworkDefinitionCreationFlag.EXPLICIT_BATCH))”构建了我的 trt 引擎

如何获得批次中所有样本的正确输出?

这给了我输出

输出应该是长度为 16 的列表(每个维度为 3072),即“len(trt_feature)”= 16。但我得到的输出长度等于 1,即“len(trt_feature)”= 1。

0 投票
1 回答
232 浏览

c++ - macOS 构建问题上的 openvino

我按照他们的 github https://github.com/openvinotoolkit/openvino上的说明在 macOS 上构建它,完成它,当我写一个小代码来检查是否全部清晰

当我用命令编译它时

它给了我错误

然后我添加了 .a 库并运行了这个命令

我得到了这个

有没有人和我一样的问题,有没有人知道怎么解决?

0 投票
1 回答
225 浏览

opencv - 使用 IE(推理引擎)编译时出现 OpenCV 构建错误

OpenCV 版本:4.4.0(最新) OpenVINO 版本:2020.4(最新)

尝试在 Windows 10 上构建由 CMake 3.18.0 生成的项目时发生错误。我尝试了很多次从头开始构建(清除所有缓存,更新源代码,重新安装 OpenVINO 工具包,并成功运行所有演示),但问题依然存在。

这是 VS 2019 构建错误日志:

最后 10 失败:

========== 构建:86 个成功,10 个失败,0 个最新,0 个跳过 ==========

注意:在我能够使用 IE 构建 OpenCV 之前没有任何错误,但在新版本中,编译和构建时出现了许多错误。

任何解决方案..?

如果需要,我准备提供更多日志和信息。

谢谢!!

0 投票
1 回答
58 浏览

python - Tensorflow 在对象检测会话运行中抛出“TypeError: unhashable type: 'list'”错误

当我运行 sess.run 时出现错误

-------------------------------------------------- ------------------------- TypeError Traceback (最近一次调用最后一次) in 3 image_np = load_image_into_numpy_array(image) 4 image_np_expanded = np.expand_dims(image_np, axis=0) ----> 5 (boxes, scores, classes, num_detections) = sess.run(_output_ops, feed_dict={_input: image_np_expanded}) 6 print(boxes) 7 break

类型错误:不可散列类型:“列表”

0 投票
2 回答
276 浏览

c++ - 带有 Visual Studio 的 C++ 上的 Openvino 推理引擎

我正在尝试通过运行样本测试在 c++ 上使用推理机。一切都很好,构建示例正在运行,没有任何错误或警告。但是当我尝试运行像 object_detection_sample_ssd.exe 这样的二进制文件或使用 Visual Studio 为这个示例运行 main 时。它显示此错误应用程序无法正确启动我能做什么请你知道吗?

0 投票
0 回答
65 浏览

rdf - 使用 OWL 和 Protégé 的 RDF 推断子类

我正在寻找一个允许类型分类映射到另一个应用程序的本体。我需要找到所有类型Person的实例,而没有明确定义JackPerson. 目前使用 Protege 我无法仅使用子类来做到这一点。

让我们假设以下内容:

ApplicationPersonType是 的等价类Person。这用于从 RDF 类显式映射应用程序类型。

出于某种原因,我使用的 Protégé 工具没有给我上述推断的结果。我的假设是推理器不起作用/没有在层次结构的那个高度列出推理。

Q1。该工具是否列出了所有推论?IE。它是否会走捷径并且只列出直接推论,即使推断出更高层次的层次之间有更多的联系?

为了满足我的要求,我希望关系推断:

杰克是类型ApplicationPersonType

艾伦是类型ApplicationPersonType

Q2。我是否遗漏了上述内容来实现这一目标?

当我向每个类添加域和范围时,我可以看到推理在该工具上工作。理想情况下,我还想知道是否有一种方法可以在只有子类的多级层次结构中推断类型。

Q3。是否可以推断出 Jack 是ApplicationPersonType没有为任何项目映射的域和范围的类型?

提前感谢您的回复!

0 投票
0 回答
28 浏览

rdf - OWL Ontology 中子类级别的推理关系

在我的本体中,我在父类级别描述了关系。我希望该父级的所有子类都继承这些关系。例如。如果我的本体中有以下三元组:

我想推断以下三元组:

推断这些三元组的建议方法是什么?我们计划将本体存储在三重存储中。

谢谢

0 投票
0 回答
12 浏览

jenkins - 在 Gerrit 对 Jenkins 的评论中发布推断问题

我使用infer进行静态分析并生成 pmd.xml 结果。

我的问题是如何将推断问题发布为 gerrit 评论。我知道sonarToGerrit但它只能发布声纳格式的结果。

0 投票
0 回答
30 浏览

tensorflow-lite - 使用问答协议的 Python Tensorflow lite 运行时推理引擎

我正在寻找一个使用 Question-Answer 协议调用 Tensorflow lite 模型的 Python 程序示例。有数百个进行图像分类和识别的示例。我不需要模型制造商笔记本。我已经训练了一个模型并将其转换为 Tensorflow lite 平面缓冲区格式。我正在寻找一个实际 Python 代码的示例,该示例询问模型的临时问题。我打算把这个 python 程序移植到树莓派上。我已经在 Raspberry pi 上编写了使用全功能 Tensorflow 和 PYtorch 的 Python 脚本,但是它占用了太多的内存和资源。是否有任何公共 GitHub 存储库询问边缘设备上的 Tensorflow lite 模型问题?

0 投票
1 回答
114 浏览

python - OpenVino 导入错误:未定义符号:_ZTVN15InferenceEngine5TBlobIhSt9enable_ifILb1EvEEE

在部署中使用 OpenVino 时出现导入错误。已尝试在 request.txt 文件中指定所有先前版本的 OpenVino,以防问题与版本有关。确切的错误是:

我不确定这个错误的性质是什么。会不会是依赖问题?完整的 requirements.txt 文件是:

还有一个 Aptfile :

runtime.txt 文件包含:

万一知道有什么用。我还尝试从依赖项中删除 Numpy,因为我听说了与 Numpy 和 OpenVino 相关的错误。

更新*

有趣的是,当在 requirements.txt 中将 opencv-python-inference-engine 替换为 opencv-python-headless 时,错误发生了变化:

所以我认为错误可能与opencv导入有关?或者它可能与buildpack有关?

对于我正在使用的推理: