2

在我的数据流中，我查询数据库的一个小子集，使用这些结果构建大约十几个数组，然后，给定一些参数值，计算一个似然值。然后重复数据库的一个子集。我想计算似然函数相对于参数而不是数据的梯度。但是 ReverseDiff 计算所有输入的梯度。我怎样才能解决这个问题？具体来说，我怎样才能构造一个 ReverseDiff.Tape 对象

TL;DR：如何结合随机梯度下降和 ReverseDiff？（我不喜欢使用 ReverseDiff。它似乎是适合这项工作的工具。）

看来这必须是一种常见的编码模式。它一直在我的领域中使用。但我错过了一些东西。Julia 的范围规则似乎破坏了范围/匿名函数方法，并且 ReverseDiff 保留了生成的磁带中的原始数据值，而不是使用变异值。

一些不起作用的示例代码

using ReverseDiff
using Base.Test


mutable struct data
    X::Array{Float64, 2}
end

const D = data(zeros(Float64, 2, 2))

# baseline known data to compare against
function f1(params)
    X = float.([1 2; 3 4])
    f2(params, X)
end

# X is data, want derivative wrt to params only
function f2(params, X)
    sum(params[1]' * X[:, 1] - (params[1] .* params[2])' * X[:, 2].^2)
end

# store data of interest in D.X so that we can call just f2(params) and get our
# gradient
f2(params) = f2(params, D.X)

# use an inner function and swap out Z's data
function scope_test()
    function f2_only_params(params)
        f2(params, Z)
    end
    Z = float.([6 7; 1 3])
    f2_tape = ReverseDiff.GradientTape(f2_only_params, [1, 2])

    Z[:] = float.([1 2; 3 4])
    grad = ReverseDiff.gradient!(f2_tape, [3,4])
    return grad
end

function struct_test()
    D.X[:] = float.([6 7; 1 3])
    f2_tape = ReverseDiff.GradientTape(f2, [1., 2.])
    D.X[:] = float.([1 2; 3 4])
    grad = ReverseDiff.gradient!(f2_tape, [3., 4.])
    return grad
end

function struct_test2()
    D.X[:] = float.([1 2; 3 4])
    f2_tape = ReverseDiff.GradientTape(f2, [3., 4.])
    D.X[:] = float.([1 2; 3 4])
    grad = ReverseDiff.gradient!(f2_tape, [3., 4.])
    return grad
end

D.X[:] = float.([1 2; 3 4])

@test f1([3., 4.]) == f2([3., 4.], D.X)
@test f1([3., 4.]) == f2([3., 4.])

f1_tape = ReverseDiff.GradientTape(f1, [3,4])
f1_grad = ReverseDiff.gradient!(f1_tape, [3,4])
# fails! uses line 33 values
@test scope_test() == f1_grad
# fails, uses line 42 values
@test struct_test() == f1_grad
# succeeds, so, not completely random
@test struct_test2() == f1_grad
4

2 回答 2

2

目前这是不可能的（遗憾的是）。这两种解决方法存在 GitHub 问题： https ://github.com/JuliaDiff/ReverseDiff.jl/issues/36

  • 要么不使用预先录制的磁带
  • 或相对于所有参数进行微分，并忽略某些输入参数的梯度。

我有同样的问题，我使用了 Knet 的 grad 函数。我只支持相对于一个参数的微分，但这个参数可以非常灵活（例如数组数组或字典或数组）。

于 2018-05-06T18:53:11.090 回答
1

谢谢亚历克斯，您的回答已经完成了 90%。AutoGrad（Knet 在撰写本文时使用的）确实提供了一个非常好的界面，我认为这对大多数用户来说是很自然的。然而，事实证明，使用带有 ReverseDiff 的匿名函数比 AutoGrad 采用的方法更快，原因我不太明白。

如果您遵循链接中引用的问题链，这似乎是 ReverseDiff/ForwardDiff 人希望人们做的事情：

ReverseDiff.gradient(p -> f(p, non_differentiated_data), params)

当然令人失望的是，我们无法获得具有这种令人难以置信的常见使用场景的预编译磁带，也许未来的工作会改变一切。但这似乎是现在的情况。

一些有兴趣进一步阅读的参考资料：

于 2018-05-08T05:11:52.137 回答