tensorflow - keras 结合了两个损失和可调节的权重

Question

所以这里是详细的描述。我有一个带有两层输出 x1 和 x2 的 keras 功能模型。

x1 = Dense(1,activation='relu')(prev_inp1)

x2 = Dense(2,activation='relu')(prev_inp2)

我需要使用这些 x1 和 x2，合并/添加它们并提出加权损失函数，如附图中所示。将“相同的损失”传播到两个分支。Alpha 可以灵活地随迭代而变化

Answer 1

似乎将“相同的损失”传播到两个分支不会生效，除非 alpha 依赖于两个分支。如果 alpha 不随两个分支而变化，则部分损失将仅对一个分支保持不变。

因此，在这种情况下，只需编译具有两个损失的模型，并将权重添加到 compile 方法：

model.compile(optmizer='someOptimizer',loss=[loss1,loss2],loss_weights=[alpha,1-alpha])

当您需要更改 alpha 时再次编译。

---

但如果确实 alpha 依赖于两个分支，那么您需要连接结果并计算 alpha 的值：

singleOut = Concatenate()([x1,x2])

还有一个自定义损失函数：

def weightedLoss(yTrue,yPred):
    x1True = yTrue[0]
    x2True = yTrue[1:]

    x1Pred = yPred[0]
    x2Pred = yPred[1:]

    #calculate alpha somehow with keras backend functions

    return (alpha*(someLoss(x1True,x1Pred)) + ((1-alpha)*(someLoss(x2True,x2Pred))

用这个函数编译：

model.compile(loss=weightedLoss, optimizer=....)