2

我已经使用低级 tensorflow API 构建了一个模型,该模型只有几个我想要优化的变量(大约 10 个)。因此,我想实现一个自定义损失函数来产生噪声损失值(有点像基于模拟的优化方法)。

通常我会使用像 SPSA 优化器这样的无衍生优化器。

有没有办法使用低级 tensorflow API 实现不可微分的损失函数和像 SPSA 这样的优化器?

PS:有人可能会问为什么要为此使用 tensorflow?这是因为我想用tensorflow方便保存模型,用tensorboard方便全面的可视化。我还希望能够在标准化框架中切换和比较不同的模型。

4

1 回答 1

1

我认为 SPSA 也适用于不可微分的函数。对于 SPSA 实施:https ://github.com/fraunhofer-iais/tensorflow_spsa

于 2019-03-07T09:09:41.447 回答