chainer - 如何识别chainer中的GPU内存瓶颈

Question

我有一个 chainer 模型，它有时会由于cupy.cuda.memory.OutOfMemoryError. 由于它发生的确切位置取决于批次元素的大小，我想知道是否有一种方法可以识别链接器模型中的内存瓶颈？

Answer 1

你可以参考CupyMemoryProfileHook。

• https://github.com/chainer/chainer/blob/master/chainer/function_hooks/cupy_memory_profile.py#L17

    Code example::
        from chainer.function_hooks import CupyMemoryProfileHook
        hook = CupyMemoryProfileHook()
        with hook:
            trainer.run()
        hook.print_report()
    Output example::
               FunctionName  UsedBytes  AcquiredBytes  Occurrence
             LinearFunction     5.16GB       179.98MB        3900
                       ReLU   991.82MB       458.97MB        2600
        SoftmaxCrossEntropy     7.71MB         5.08MB        1300
                   Accuracy   617.97KB       351.00KB         700