neural-network - 如何用 theano 加速 GPU 模式的卷积神经网络？

Question

我正在使用 theano 来实现卷积神经网络。我的 CPU RAM 是 32G，GPU RAM 是 2G，但数据也很大——几乎是 5G 的训练数据。

程序运行的时候，电脑好像死机了，每次操作真的很慢，甚至没有反应。CPU 模式似乎比 GPU 模式快至少 2 倍。

有什么方法可以加快 GPU 卷积神经网络的速度吗？

Answer 1

确保将 Theano 0.7 与 cudnn 一起使用，这会大大加快卷积速度：

http://deeplearning.net/software/theano/library/sandbox/cuda/dnn.html

Answer 2

为了使用 GPU 加速首先你需要安装 CUDA。在 Theano 配置级别（Theano flags/TheanoRC），有几种方法可以使用 GPU 加速模型：

1. 指定 GPU “device = gpu”的使用
2. 启用 Cuda 内存分配 (CnMem) "cnmem = 0.75"
3. 启用 CUDNN 优化“优化器 = cudnn”

您可以在此处阅读有关 Theano 配置的更多信息