我正在使用 Pytorch 中实现的自动网格来训练神经网络,我需要计算整个算法的计算复杂度。我在哪里可以找到 autograd 计算复杂度的完整计算?我在 Pytorch 文档中进行了搜索,但没有找到任何答案。谢谢
问问题
304 次
2 回答
0
试试这个https://github.com/Lyken17/pytorch-OpCounter。它计算 nn 的 macs(类似于复杂度)。您可以在集线器上看到一些指南,使用 profile 来测量 pytorch 中模型的 FLOP。
于 2021-09-17T16:42:53.633 回答
-1
在这种情况下,这取决于您如何计算复杂性。每个forward
操作都与其各自的backward
操作配对(返回相对于网络最后一个节点的导数,通常是成本函数)。
如果将每个操作视为一个单元,那么向前和向后将是两个单元,基本上不会改变任何复杂性,否则它取决于神经网络的类型和其中的操作。
于 2019-01-10T14:32:45.550 回答