问题标签 [inference-engine]

无法使用英特尔推理引擎优化 keras 模型（OpenVINO 工具包 R.5）

我冻结了我的模型，就像下面的教程建议的那样。keras 模型经过训练和测试。我需要对其进行优化以进行推理。但是，在自定义模型上运行模型优化器（mo.py 脚本）时出现错误。

我的模型的最后几层（9 是类的输出数）是：

由于存在 BatchNormalization 层，模型优化器失败。当我删除它们时，它会成功运行。但是我用

所以像 BatchNormalization 和 Dropout 这样的节点必须在冻结图中删除，我不知道为什么不删除它们。

非常感谢！

我正在尝试运行 OpenVINO 推理引擎示例验证应用程序。根据OpenVINO IE 示例： Validation_app，我准备了这样的数据集：

当我运行 validation_app 时：

警告出来：

考虑到 .bmp 图像是 700x460 并且 .xml 文件的输入形状是 1x3x299x299，我尝试了：

但是警告仍然是一样的。

有谁知道如何修理它？

我正在开发一个反向链接引擎作为学校项目。到目前为止，我主要是用 C 语言完成项目，所以我决定为那个项目尝试 Haskell。我阅读 LYAH 是为了开始并开始在我的推理引擎中实现规则和事实的表示。到目前为止，这就是我得到的

这个想法是要有某种图表，其中事实节点指向规则节点，除非事实已经在已知事实的列表中。

但是，在这里我遇到了定义我的实际事实和规则的问题。

做类似的事情

在 ghci 中以表示规则

这样可行。但是我真的不知道以编程方式构建这些规则的方向。此外，我看不到如何使用该方案处理循环规则（E => A例如添加规则）。

我已经看到有一些方法可以在 Haskell 中定义自引用数据结构，在 Haskell wiki 上使用名为“Tying the knot”的技巧，但我不知道如何（或什至）在当前情况下应用它。

我的问题本质上是，我是朝着正确的方向前进，还是用这种方法完全倒退了？

PS：在我看来，我的代码并不像它应该的那样简洁（传递 [Label] 列表，重复eVal_rule proved很多次......），但我也不知道如何以另一种方式做到这一点.

工作流程：

• 为了预处理我们的原始数据，我们使用 PySpark。由于数据的大小，我们需要使用 Spark。
• PySpark 预处理作业使用允许您将预处理逻辑导出到文件的管道模型。
• 通过管道模型导出预处理逻辑，您可以在推理时加载管道模型。像这样，您不需要对预处理逻辑进行两次编码。
• 在推理时，我们更愿意在没有 Spark 上下文的情况下执行预处理步骤。Spark 上下文在推理时是多余的，它减慢了执行推理的时间。

我在看Mleap但这仅支持 Scala 语言在没有 Spark 上下文的情况下进行推理。由于我们使用 PySpark，所以坚持使用 Python 语言会很好。

问题：有什么好的替代方法可以让您在训练阶段在 (Py)Spark 中构建管道模型，并允许您使用 Python 语言重用此管道模型，而无需 Spark 上下文？

我正在尝试在 Python 3.6中使用 infer.net ( https://dotnet.github.io/infer/ )。为此，我安装了 pythonnet 包，并下载了我需要使用 infer.net 的 dll 文件。文件/包的导入，新类型的使用正在工作，但是当我试图推断一个基本模型时，我得到了一个 PlatformNotSupportedException 并且我不知道如何处理这种错误。有人可以帮助我吗？我在这里使用 Jupyter Notebook 这是我使用的代码。

我训练了一个 ANN 模型并将其保存为 .h5 文件。然后我将模型转换为 tensorflow 模型并获取'savedmodel.pb'和'variables'文件夹。然后我使用模型优化器 openvino 生成 IR 文件：

但我收到以下错误：

一开始可以openVINO用来转换ANN模型吗？

我正在尝试为 Apache Jena 定义以下推理规则。我在混合模式下使用 GeneralRuleReasoner

我也尝试过使用单引号。这失败并出现此错误：

我也尝试将它定义为

这实际上不起作用，因为显然lang只适用于查询 DSL。我还尝试执行以下操作：我在本体中定义了另一个类，该类带有我无法在推理规则中定义的标签和主标签，onto:并向派生类添加属性。

这在某种意义上是有效的，即在尝试查询（SPARQL）三元组时创建了推理规则，但派生类的标签和主标签都没有出现。不过，我可以看到anotherR 它与test.

所以我的问题是：在推理规则中定义标签（包括语言规范）的正确方法是什么？

我对 Clips 中的规则匹配有疑问，特别是我无法理解为什么该规则不生效。

但是在（事实）中，我有正确的值，实际上是在运行：

该规则仅在 num 为 0（正确）时才有效：

为什么当 num=1, get-unknow-col=1, get-boat-pieces-col=0 并且测试为真时它不激活？我哪里错了？

我试图了解我正在编写的程序在 AI 编程中反向和正向链接的最佳用途。谁能解释反向和正向链接的最理想用途？另外，你能举个例子吗？

我用一个卷积层构建了一个简单的 CNN 模型，并用 Tensorflow Lite 对其进行了转换。（对于 MNIST ！！）所以现在我的模型得到 8 位整数输入，权重也是 8 位整数。

我想测试从 TFLite 获得的参数，所以我为推理步骤编写了 C 代码。

输入图像像素被赋予 0 到 255 之间的 8 位整数，权重在 -128~127 之间。（偏差是 32 位整数。）当然，卷积结果由大于 255 的数字组成。

我查看了这篇论文（https://arxiv.org/pdf/1712.05877.pdf，“用于高效整数运算的神经网络的量化和训练”），它提供了一些关于如何处理这个卷积结果的提示。它说我必须（1）缩小，（2）向下（到 uint8），以及（3）应用激活函数来生成 8 位输出。

据我了解，我需要将 2^(-n) 乘以卷积结果。所以我将卷积输出划分为 256 并将最大数量限制为 255，并使用全连接层的权重进一步计算它们。

它显示了一个很好的结果（准确度 0.96+），但没有 TFLite 评估所说的那么高。（精度 0.98+）

我认为我没有以正确的方式做到这一点，因为“256”（我将卷积输出划分为）是一个随机数。实际上，当我将其更改为 340 时，它显示出最好的结果，但仍远低于使用 TFLite Interpreter 进行的 TFLite 评估。

实现推理步骤的正确和复杂的方法是什么？如何缩小规模？