我正在优化两个具有非常不同值的损失函数。举个例子:
loss1 = 1534
loss2 = 0.723
我想优化过去loss1+loss2
。将 loss1 重新调整为更接近 loss2 的值是个好主意吗?我尝试了在整体损失项(总和)内将 loss2 乘以 1000 的简单方法,但问题是,随着loss1
下降(比如 600、500 左右),loss2
变得太大。
我的想法是找到一种方法,在整个优化过程中将两个损失项保持在同一范围内。这样做的最佳方法是什么?
我正在优化两个具有非常不同值的损失函数。举个例子:
loss1 = 1534
loss2 = 0.723
我想优化过去loss1+loss2
。将 loss1 重新调整为更接近 loss2 的值是个好主意吗?我尝试了在整体损失项(总和)内将 loss2 乘以 1000 的简单方法,但问题是,随着loss1
下降(比如 600、500 左右),loss2
变得太大。
我的想法是找到一种方法,在整个优化过程中将两个损失项保持在同一范围内。这样做的最佳方法是什么?