theano - pytorch：如何直接找到梯度wrt损失

Question

在 theano 中，很容易获得给定损失的某个变量的梯度：

loss = f(x, w)
dl_dw = tt.grad(loss, wrt=w)

我知道 pytorch 采用了不同的范式，您可以在其中执行以下操作：

loss = f(x, w)
loss.backwards()
dl_dw = w.grad

问题是我可能不想通过图形进行完全的反向传播——只是沿着到达 w 所需的路径。

requires_grad=False我知道如果您不想通过变量反向传播，您可以定义变量。但是你必须在创建变量时决定（并且requires_grad=False属性附加到变量，而不是获取梯度的调用，这看起来很奇怪）。

我的问题是是否有某种方法可以按需反向传播（即仅沿着计算所需的路径反向传播dl_dw，就像在 theano 中那样）？

Answer 1

事实证明，这真的很容易。只需使用torch.autograd.grad

例子：

import torch
import numpy as np
from torch.autograd import grad

x = torch.autograd.Variable(torch.from_numpy(np.random.randn(5, 4)))
w = torch.autograd.Variable(torch.from_numpy(np.random.randn(4, 3)), requires_grad=True)
y = torch.autograd.Variable(torch.from_numpy(np.random.randn(5, 3)))
loss = ((x.mm(w) - y)**2).sum()
(d_loss_d_w, ) = grad(loss, w)

assert np.allclose(d_loss_d_w.data.numpy(), (x.transpose(0, 1).mm(x.mm(w)-y)*2).data.numpy())

感谢 JerryLin 在这里回答问题。