问题标签 [theano-cuda]

操作系统：OSX 10.11.4

显卡：GeForce GT 750M、CUDA7.5

语言：Python Anaconda 2.7

我已按照 theano 的说明在我的 Mac 上设置 CUDA：

1. 设置路径：export PATH=/Developer/NVIDIA/CUDA-7.5/bin:$PATH
2. 设置 LD_LIBRARY_PATH: 导出 LD_LIBRARY_PATH=/Developer/NVIDIA/CUDA-7.5/lib:$LD_LIBRARY_PATH
3. 创建了一个 .theanorc 文件并在 [cuda] 部分添加 CUDA_ROOT=/Developer/NVIDIA/CUDA-7.5

我从 theano 网站复制了代码并将其粘贴到 test.py 文件中：

但是当我运行这一行时：

THEANO_FLAGS='floatX=float32,device=gpu0,nvcc.fastmath=True' python test.py

我收到了这个错误：

nvcc fatal: The version ('70300') of the host compiler ('Apple clang') is not supported

警告如下所示：

WARNING (theano.sandbox.cuda): CUDA is installed, but device gpu0 is not available (error: cuda unavailable)

是因为我的 Xcode 版本（它是 7.3 版）吗？如何解决这个问题呢？

设置：

• 使用带有 Nvidia GPU 的 Amazon Linux 系统
• 我正在使用 Keras 1.0.1
• 运行 Theano v0.8.2 后端
• 使用 CUDA 和 CuDNN
• THEANO_FLAGS="设备=gpu,floatX=float32,lib.cnmem=1"

一切正常，但是当我增加批量大小以加快训练速度时，大型模型的视频内存不足。我认为迁移到 4 GPU 系统理论上会提高可用总内存或允许更小批量更快地构建，但观察 nvidia 统计数据，我可以看到默认情况下只使用一个 GPU：

我知道原始 Theano 可以显式手动使用多个 GPU。Keras 是否支持使用多个 GPU？如果是这样，它是否将其抽象化，或者您是否需要将 GPU 映射到 Theano 中的设备，并将计算显式编组到特定的 GPU？

我有以下基于Theano 示例的代码：

现在当我用两种模式测试代码时：

GPU模式，我明白了：

CPU模式，我明白了：

请注意两件事，GPU 确实比 CPU 快（0.47 秒对 5 秒）。但同时在 GPU 上，我收到 cuDNN 不可用消息。

我的问题是这个。没有 cuDNN 有什么影响？它有害吗？

我已经安装了 CUDA Toolkit V 7.0，它的显卡驱动版本是 347.62。在我的 theano 代码中

我用过这个。它显示以下错误。\n

您强制使用 gpu 设备 gpu，但 CUDA 初始化失败并出现错误：无法获取可用 gpu 的数量：CUDA 驱动程序版本对于 CUDA 运行时版本不足'

我应该怎么办？

我使用以下脚本来测试 GPU 是否正常工作：

当我运行它时，我得到：

http://pastebin.com/wM9jaGMF

有趣的部分在最后：

我的系统

• 我使用 Ubuntu 16.04。
• 我已经通过标准 repos ( V7.5.17) 安装了 CUDA。nvcc --version作品。
• 我已经通过 pip 安装了 Theano
• 我有 CuDNN 4（与 TensorFlow 一起使用）
• 我设置CUDA_ROOT=/usr/bin/和LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu/（我不确定这是否正确）

我~/.theanorc的是

路径

我认为从标准存储库进行安装可能会使事情与手动安装有所不同。以下是一些可能会发现一些问题的路径：

问题

我怎样才能让它工作？

我使用 ubuntu 14.04 和 cuda 7.5。我使用以下方式获取 cuda 版本信息$ nvcc --version：

$PATH 和 $LD_LIBRARY_PATH 如下：

我安装了theano。我将它与 cpu 一起使用，但不与 gpu 一起使用。本指南说

使用 GPU 测试 Theano¶ 要查看您的 GPU 是否正在使用，请将以下程序剪切并粘贴到文件中并运行它。

如果我使用 device=cpu 运行这个程序（在 check1.py 中），我的计算机需要 3 秒多一点，而在 GPU 上只需要 0.64 秒多一点。GPU 不会总是产生与 CPU 完全相同的浮点数。作为基准，调用 numpy.exp(x.get_value()) 的循环大约需要 46 秒。

$ THEANO_FLAGS=mode=FAST_RUN,device=cpu,floatX=float32 python check1.py [Elemwise{exp,no_inplace}()] Looping 1000 times took 3.06635117531 seconds Result is [ 1.23178029 1.61879337 1.52278066 ..., 2.20771813 2.29967761 1.62323284] Used the中央处理器

$ THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32 python check1.py 使用 gpu 设备 0：GeForce GTX 580 [GpuElemwise{exp,no_inplace}(), HostFromGpu(GpuElemwise{exp,no_inplace}.0)] 循环 1000耗时 0.638810873032 秒 结果为 [ 1.23178029 1.61879349 1.52278066 ..., 2.20771813 2.29967761 1.62323296] 使用了 GPU 请注意，Theano 中的 GPU 操作现在要求 floatX 为 float32（另见下文）。

我在没有 sudo 的情况下运行 gpu 版本命令，它会引发权限被拒绝错误：

如果我将它与 sudo 一起使用，编译器将找不到 nvcc 路径。

我该如何解决这个错误？

我在我的机器上重新安装了新的 ubuntu 14:04，然后我开始收到这个错误，而在旧安装中，程序运行完美，没有任何烦人的错误。请提供任何帮助。顺便说一句，我在这里发现问题无法在 keras 中加载 mnist 数据集，但它看起来不同的错误，我的工作没有任何问题。

在我的 .theanorc 文件中，我设置了参数...

但是，当我使用 theano 后端运行 keras 并调用 model.predict 时，返回数组的 numpy 数据类型始终是 FP64 而不是 FP32 类型。我不确定这是否是一个问题，或者 keras / theano 是否在 GPU 上执行之前转换为 FP32。有没有办法检查。如果我尝试在 GPU 上使用 FP64，theano 可以发布错误或警告，我希望它。

我的问题是下一个：

我在 ubuntu 14 上使用 theano 并通过编辑配置 theano 标志.theanorc。要使用 cuda，我只需要添加：

一切顺利，theano 能够找到 nvcc、库和所有内容，我不必将 cudaRoot 添加到 $PATH 或将库目录添加到$LD_LIBRARY_PATH.

在ubuntu 12这不会发生。如果我.theanorc以同样的方式创建，theano 只能找到 nvcc 而不是库，我必须添加/usr/local/cudaVersion/lib64到LD_LIBRARY_PATH环境变量中。

问题是我不喜欢使用这个环境变量。有谁知道为什么在 ubuntu 14 中只有编辑.theanorc就足够了，而在 ubuntu 12 中则不行？

在没有GPU 支持的情况下，我让 Theano 在 Windows 10 上运行良好。我有一个新的 GTX 1080，想在上面运行 Theano。这需要来自 NVIDIA 的最新 CUDA 8.0 Toolkit。我已经根据http://deeplearning.net/software/theano/install_windows.html安装了所有东西，允许一些小的软件版本差异。每当我尝试通过 .theanorc.txt 启用 GPU 支持来简单地“导入 theano”时，我都会遇到编译错误。

根据此线程，Cuda 8.0 可以与 Theano-master 一起正常工作：https ://github.com/Theano/Theano/issues/4558

从 6 月 16 日开始运行 WinPython 64bit 2.7.10.3、scipy 0.161、numpy 1.9.3、Microsoft Visual Studio 12.0 和 theano-master。

最新尝试导致此错误列表：

请帮忙！