1

我一直 在用 8GB RAM、intel core i7-4th gen 在我的电脑上编译这个程序用于鸟类图像预处理。处理器,但每次运行一段时间后都会卡住,显示此错误:

File "bird.py", line 13, in <module>
    X,Y,X_test,Y_test = pickle.load(open("full_dataset.pkl", "rb"))
MemoryError

作为 tensorflow 的新手,我不确定是否正在使用 CUDA(我已成功安装),还是只是 CPU 仍在执行计算。

4

1 回答 1

2

您看到的错误是在任何 GPU 计算(或实际上任何 TensorFlow 计算)发出之前引发的。这MemoryError意味着 unpickling 数据集要么导致内存不足,要么数据中存在一些损坏。尝试加载较小的数据集以查看问题是否仍然存在。

至于您最初的问题,如果您安装了 TensorFlow 的 GPU 版本,以及 CUDA 的兼容版本(即 CUDA 8.0)和 cuDNN,TensorFlow 会将大部分计算卸载到您的 GPU,包括矩阵乘法和卷积,这将包括大部分时间都花在了训练上。

于 2016-12-28T16:57:19.793 回答