chainer - 为什么在chainer中定义自定义函数后向函数必须返回与输入相同的梯度形状？

Question

两个问题：

1. https://docs.chainer.org/en/stable/tutorial/function.html写道：后向函数必须返回与前向方法的参数相同的形状？因为在某些情况下，输入数据和参数不需要是相同的形状或长度，例如 Convolutional2D，如何处理具有不同形状的输入数据和参数。

2. 因为在某些情况下，比如maxpooling，这里没有梯度。如何定义这样的链接器功能？

Answer 1

1. 该backward方法应该返回一个数组元组，并且元组的第 i 个数组应该与forward方法的第 i 个参数具有相同的形状。当然，不同的参数forward（以及不同的返回值backward）可以有不同的形状。

2. 当函数的某些输入没有梯度时（即梯度始终为零），您可以返回None作为元组的相应元素而不是零填充数组。顺便说一句，最大池确实有梯度。