问题标签 [theano-cuda]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
462 浏览

python - 在 Theano 中使用 GPU 进行数据增强

我是 Theano 和深度学习的新手,我正在 Theano 中进行实验,但我想通过直接使用 GPU 进行数据增强来减少每个 epoch 所花费的时间。

不幸的是我不能使用 PyCuda,所以我想知道是否可以使用 Theano 进行基本的数据增强。例如图像中的平移或旋转,同时我使用 Numpy 在 CPU 中使用 scipy 函数,但速度很慢。

0 投票
1 回答
2362 浏览

windows - PyCharm + Anaconda:Theano 的问题(找不到 g++)

我刚刚在 Windows 8.1(64 位)上安装了 Anaconda 和 PyCharm。对于现有项目,我创建了一个 conda 环境,其中包括 Theano 和其他一些库。

Theano 能够使用 GPU(带有 CUDA)或 CPU 进行计算。我更喜欢使用 GPU,因为它要快得多。

如果我在命令行中启动项目的测试脚本,我会得到以下输出:

这就是我喜欢的输出。

我也尝试用 PyCharm 做到这一点。我安装了它并使用了正确的 conda 环境,但我总是得到这个输出:

Theano 然后使用 CPU(这非常慢......)。在命令行中,我检查了“g++”的位置:

这意味着使用的 g++ 在创建的环境的脚本目录中。当然,我可以将路径添加C:\Users\XXX\Anaconda2\envs\venv\Scripts到系统的路径变量中,但这很丑陋,因为我还必须使用不同的环境。

有人知道如何用 PyCharm 做到这一点吗?

非常感谢

问候

凯文

0 投票
1 回答
143 浏览

theano - Theano 回退到 CPU

我正在训练模型Theano 0.9Lasagne 0.1希望在 GPU 上运行它。我设置THEANO_FLAGS如下:

Theano 打印它正在使用 GPU

但是,我注意到它不是,分析表明它正在使用根据文档的CorrMM操作

CorrMM 这是一个仅 CPU 的 2d 相关实现,取自 caffe 的 cpp 实现,也被 Torch 使用。

我安装了 CUDA Toolkit 7.5,Tensorflow 在 GPU 上完美运行。出于某种原因,Theano 正在回退到 CPU,它应该由于force_device标志而导致错误,但事实并非如此。

我不确定问题出在哪里,因为我是 Theano 的新手,感谢您的帮助。

0 投票
0 回答
216 浏览

memory-management - Theano:共享变量在代码运行后不释放内存

我正在运行这个简单的代码,它将两个大型数组复制到 GPU 内存以进行点积计算。

但是,似乎在每次代码运行后(在 Spyder 中),为这些共享变量分配的 GPU 内存并没有被释放。

我正在使用带有 12GB RAM 的 Titan-X,我只能运行此代码两次,第三次会产生以下错误:

这是我的 theanorc 文件:

我正在使用 nvidia-smi 监控 GPU 内存使用情况,我可以看到它在 3 次代码运行后消耗了所有 12GB 的内存。

0 投票
2 回答
243 浏览

python - Theano 在 linux 中使用 cuDNN 崩溃

我是运行 Scientific Linux 6.6 版(Carbon)的集群计算机上的非 root 用户。

在使用 CUDA 7.5 和 cuDNN 5 在 GPU 上运行代码时,我遇到了一些 theano 崩溃。我使用的是 Python 2.7、Theano 0.9、Keras 1.0.7 和 Lasange 0.1。

仅当我在启用了 cuDNN 的 GPU 节点上运行程序时,才会发生以下崩溃。该代码在禁用 cuDNN 的 CPU 和 GPU 上顺利完成。

我的 .theanorc 看起来像这样:

我的个人资料有以下内容:

当我查询 theano 时,返回以下内容,这表明 theano 正在与 CUDA 和 cuDNN 交互。

我相当确定我已经正确安装了 CUDA 和 cuDNN,如果有人能提出任何我可能错过的导致 cuDNN 使程序崩溃的额外配置步骤,我将不胜感激。

0 投票
1 回答
2154 浏览

python - 在没有 root 访问权限的情况下为 Theano 安装 cuDNN

我可以在没有 root 访问权限的情况下在本地安装cuDNN吗?

我没有对我正在使用的 linux 机器的 root 访问权限(发行版是 openSuse),但我已经安装了 CUDA 7.5。

我正在使用 Theano,我需要 cuDNN 来提高 GPU 上的操作速度。

cudnn-7.5-linux-x64-v5.1从 Nvidia 下载并按照说明将 CuDNN 存档内容复制到 CUDA 安装文件夹,即(cuda/lib64/ 和 cuda/include/)。但这需要我具有root访问权限。

是否可以在本地提取 cudnn 存档并为 theano 提供 cudnn 库的路径?

0 投票
1 回答
1013 浏览

theano - Theano:新 Jetson TX1 上的 GPU 使用情况

(下面问题中的错误消息很长。TL;DR,这里是具体问题: 为什么这个测试代码不能在 TX1 的 GPU 上执行,我需要做什么才能让它这样做?

我刚刚使用 JetPack 2.3 刷写并安装了全新的 Nvidia Jetson TX1。我正在尝试将 Theano 安装在 TX1 上,以便能够使用板载 GPU,以进行进一步的机器学习和神经网络应用程序。

但是,我似乎无法让 GPU 本身工作。

Theano 的安装取自这里

安装的 Theano 版本是 0.9.0.dev2,python 版本是 2.7.12。

我从这里使用了测试脚本:

按照建议运行时:

我得到以下响应,其中充满了错误、警告以及在 CPU 而不是 GPU 上的执行:

当我将设备标志更改为“gpu”时:

情况有所改善,至少找到了 NVIDIA Tegra X1,尽管它最终没有被使用:

我确实计划将警告行发送到 Theano 邮件列表,但该警告似乎与我目前的主要问题无关: 为什么此测试代码不在 TX1 的 GPU 上执行,我需要做什么才能做到所以?

0 投票
1 回答
57 浏览

python - Theano 导入失败,theano 配置cnmem = 1

Theano 导入失败,theano 配置cnmem = 1

知道如何确保将 GPU 完全分配给 theano python 脚本吗?

注意:不使用显示以避免其 GPU 使用

文件:.theanorc

文件:test.py

输出:

它仅适用于 cnmem = 0.75

文件:.theanorc

输出:

0 投票
1 回答
130 浏览

python - Theano 只使用了我 40% 的 GPU

我开始涉足深度学习,我正在尝试第 6 章中的示例,位于 neuronetworksanddeeplearning.com 上。Theano 告诉我,它正在使用我的 GPU(GTX 780)。然而,GPU 使用率仅徘徊在 40~50% 左右,时钟速度仅为 ~800 MHz(游戏中的正常 Boost 时钟为 ~1100 MHz)。

这是正常的吗?或者这里有什么问题?

0 投票
0 回答
115 浏览

python - Theano GPU 性能:theano.shared 与 numpy.ndarray 之间的区别

有几个地方提到在使用 GPU 时使用共享变量可以提高性能(例如这里这里)。但我还没有找到任何量化差异的数字。

今天,我学校的一位教授告诉我,我基本上是在浪费时间设置共享变量,因为速度可以忽略不计。

是否有任何你知道的正式测试,或者你的个人经验/启发式失败是什么?