optimization - 可以用这个目标函数中的绝对值代替方差吗？

Question

最初，我将目标函数建模如下：

argmin var(f(x),g(x))+var(c(x),d(x))

其中 f,g,c,d 是线性函数

为了能够使用线性求解器，我将问题建模如下

argmin abs(f(x),g(x))+abs(c(x),d(x))

在这种情况下将方差更改为绝对值是否正确，我很确定它们的含义与两个函数之间的差异最小

Answer 1

你没有提供足够的背景来回答这个问题。即使您的问题似乎与回归无关，但在许多方面它类似于在回归的最小二乘法和最小绝对偏差方法之间进行选择的问题。如果您的目标函数中的该项在任何意义上都是误差项，那么对误差进行建模的最合适方法取决于误差分布的性质。如果存在正态分布的噪声，则最小二乘更好。最小绝对偏差在非参数设置中更好，并且对异常值不太敏感。如果问题与概率完全无关，则需要引入其他标准来在两个选项之间做出决定。

说了这么多，两种测量距离的方法大体相似。当且仅当另一个是时，一个才会相当小——尽管它们不会同样小。如果它们对于您的目的足够相似，那么绝对值可以线性化这一事实可能是使用它的一个很好的动机。另一方面，如果基于方差的方法确实可以更好地表达您感兴趣的内容，那么您不能使用 LP 的事实不足以证明采用绝对值的理由。毕竟——二次规划并不比 LP 难多少，至少在一定规模以下。

总而言之——它们并不意味着相同的含义，但它们确实意味着相似的含义；而且，它们是否足够相似取决于您的目的。