lua - Torch，如何在批量优化期间获得损失值的张量

Question

我正在训练一个对我的训练集进行批量优化的网络，我想获得一个包含每个训练示例损失的损失向量。

更具体地说，我正在使用3x64x64一批大小为 64 的图像（大小）。因此我的输入是一个大小的张量64x3x64x64。

在我写作的训练中

output = net:forward(input)
loss = criterion:forward(input, target)

loss是一个数字，但我想获得一个张量（大小为 64），在我的批次中每个图像都有一个条目，对应于这个精确图像的损失值。

有没有办法在不循环输入张量的第一维的情况下做到这一点？

Answer 1

forward 方法调用另一个方法，该updateOutput方法可以被覆盖。例如，在MSECriterion()的情况下，您可以通过注释对库的调用来更改方法，THNN并自己编写您希望标准如何起作用，即，进行正常的元素减法然后平方（再次元素明智的）并除以数据点的总数（再次元素明智）；然后将输出作为张量返回。

luarocks make rocks/[the scm file in the folder]在导航到 nn 文件夹后，您还需要重新编译 nn 包。