python-3.x - 如何从内存池中释放内存消耗以在 GPU 上进行训练？

Question

使用 cupy 分配内存会引发内存不足分配问题。甚至在开始训练之前，12 GB 内存的消耗就几乎完成了。现在，在训练期间，所有的内存都被消耗掉了。

CPU 上一切正常。

我尝试将批量大小从 100 减少到个位数 (4)。由于cupy消耗内存，我已将小任务更改为numpy。我尝试过使用多个 gpu 但遇到同样的问题

please_refer_this

• 请注意，它在 CPU 上工作 *

结果很好，但我需要为此进行更多培训，使用 cupy 和 GPU 是必要的。