问题标签 [libtorch]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
840 浏览

python - 神经网络的慢推理时间

我在 Pytorch 中编写了一个简单的全连接神经网络。我保存了模型并使用 LibTorch 将其加载到 C++ 中,但是对于我的应用程序领域,我的推理时间非常慢。现在的推理时间约为 10 毫秒。这是正常的还是我做错了什么?

我只首先在 python 上测量了推理时间。然后为了让它更快,我在 C++ 上加载了网络,但它没有帮助。

这是网络的代码

我希望推理大约需要 0.01 毫秒。

0 投票
0 回答
283 浏览

c++ - 我想在 OpenFrameworks 中运行 Libtorch(Pytorch C++ 前端)

全部。

我想在 OpenFrameworks 中运行 Libtorch(Pytorch C++ 前端)。LibTorch 站点:https ://pytorch.org/tutorials/advanced/cpp_frontend.html

如果 LibTorch 在 OpenFrameworks 中运行,它将是非常强大的深度解决方案 IDE(深度学习 + 用于 OSX、Win10 和 Linux 的 GUI 制作)。但我不能包含<torch/torch.h>在 XCode 中。

在 CMake 方法中,CMakeLists.txt 是这样的:

并从以下位置安装 libtorch for mac:https ://download.pytorch.org/libtorch/cpu/libtorch-macos-latest.zip

如何在 XCode 中包含 libtorch 标头?

提前致谢。

0 投票
2 回答
414 浏览

c++ - 使用 Libtorch + OpenCV + QT Creator 时出错

我在 .pro 文件中有以下配置

没有“QMAKE_CXXFLAGS += -D_GLIBCXX_USE_CXX11_ABI= 0 ”, OpenCV 工作得非常好。但是,有了这个,我得到以下错误:

在此处输入图像描述

OpenCV 也适用“QMAKE_CXXFLAGS += -D_GLIBCXX_USE_CXX11_ABI= 1 ”。但它引发了一组不同的错误:

在此处输入图像描述

大多数论坛都建议为 Libtorch设置“QMAKE_CXXFLAGS += -D_GLIBCXX_USE_CXX11_ABI= 0 ”,以避免上述错误。

什么可能是解决此问题的解决方案或一些解决方案?(我是 Libtorch 和 Qt Creator 的新手。)

0 投票
0 回答
432 浏览

c++ - 在 OSX 上安装 LibTorch:不支持的选项 fopenmp

我正在尝试按照说明(此处为https://pytorch.org/cppdocs/installing.html)在 OSX 上安装 LibTorch。我一切顺利,直到“make”命令返回

有什么想法可以解决这个问题吗?

顺便说一句,在前面的 cmake 步骤中,Cmake 找到的编译器似乎是 Mac 上的默认系统编译器:

0 投票
1 回答
257 浏览

c++ - 如何在 C++ 中将 Torch 模型定义为函数的输入

我正在用 c++ 加载一个模型,该模型是用 python 训练的。现在我想编写一个函数,用随机输入测试模型,但我不能将模型定义为函数的参数。我试过 struct 但它不起作用。

0 投票
1 回答
266 浏览

c++ - 在 libtorch 中使用 forward 的非法指令(核心转储)

我正在尝试使用 libtorch 将 Python 中的模型加载并使用到 c++ 中。程序编译正确,但我在 Input 上使用 forward 得到非法指令(核心转储)。

那是代码:

制作:

0 投票
2 回答
942 浏览

libtorch - 如何修复:CMake 构建成功后 Visual Studio 中出现“未找到torch.dll”错误

我正在尝试使用 libtorch 库设置一个简单的 C++ 代码示例。我按照 Pytorch 教程网站上的描述成功构建了项目。现在我将 example-app 构建文件夹定义为起点,并尝试在调试模式下运行它。我收到一条错误消息,指出无法找到 torch.dll,但它已在外部依赖项文件夹中列出。

我重新安装了 libtorch 库。没有成功,我以管理员身份运行 VS。没有成功,我重建了项目。没有成功,我将 libtorch 设置为环境变量。没有社交

CMakeLists.txt:

我的错误信息告诉我(我把它翻译成英文):

无法继续执行代码,因为无法找到torch.dll。重新安装程序可能会解决此问题

0 投票
1 回答
196 浏览

pytorch - Libtorch:无法加载跟踪的 lstm 脚本模型

我保存了一个 pytorch ScriptModule 并使用 libtorch 加载它。但是我遇到了以下问题 jpg

我在win10下使用linux子系统,我使用pytorch 1.2。

要重现我的问题,您可以运行这段 python 代码来保存 pt 模型

然后在 libtorch 中加载模型。

我不知道为什么我有这个错误。我根本不使用 PackedSequence。希望有人可以帮助我。

0 投票
0 回答
422 浏览

pytorch - Pytorch(火炬脚本)错误:“NoneType”类型的属性“downsample”在脚本方法中不可用(您是否忘记添加它__constants__?)

我正在使用 torchscript 将 AlignedReID++ 的 pytorch 代码转换为 C++ 代码。在此过程中,我遇到了以下错误:

此外,错误来自torchvision Resnet模型,而不是我的代码,这让我对错误的位置感到困惑

我正在使用 pytorch==1.2 运行代码。我已经尝试使用 Optional[T] 标签,但它仍然没有按预期工作

我想知道我是否有任何问题,或者我必须创建更多文件以进行脚本编写。

欢迎任何帮助或建议

第一个模型

第二个模型

代码取自github:https ://github.com/michuanhaohao/AlignedReID

我在文件中进行了更改: https ://github.com/michuanhaohao/AlignedReID/blob/master/Alignedreid_demo.py

0 投票
1 回答
688 浏览

opencv - LibTorch C++ 和 Eigen 之间的数据传输

LibTorch C++ 和 Eigen 之间的数据传输(问题和帮助)

大家好,我正在为 C++ 线性代数库开发数据传输工具,您可以在此处看到: https ://github.com/andrewssobral/dtt (考虑二维数组或矩阵),我想知道您是否可以帮助我完成以下代码在 LibTorch 和 Eigen 之间进行数据传输:

这是代码的输出:

有人知道发生了什么吗?有更好的方法吗?

我还需要对 Armadillo、ArrayFire 和 OpenCV (cv::Mat) 做同样的事情。提前致谢!