numerical-methods - 测试凸优化代码

Question

我想为我已经实现的一组凸优化方法（梯度下降、共轭梯度、BFGS 等）创建一套测试问题。

理想情况下，我会知道问题的确切解决方案，然后检查这些算法是否得到了足够接近的答案。

目前，我正在为多元高斯做最大似然（并使用上述基于梯度的方法而不是封闭形式的答案）。

你还有什么推荐的？

Answer 1

求 x 以最小化 ||A*xb||。如果 b 是 A*y，并且 A 是 1-1，则唯一解是 y。如果范数是通常的范数，那么这只是线性最小二乘法，但对于任何范数来说，问题都是凸的。通过选择具有大条件数的 A，您可以在数值上使问题变得困难。