calculus - 什么是 Hessian 矩阵？

Question

我知道 Hessian 矩阵是一种涉及多个自变量的函数的二阶导数检验。如何找到涉及多个变量的函数的最大值或最小值？它是使用 Hessian 矩阵的特征值还是它的主要子矩阵找到的？

Answer 1

你应该看看这里： https ://en.wikipedia.org/wiki/Second_partial_derivative_test

对于 n 维函数f，找到梯度 grad f = 0 的x。这是一个临界点。

然后，二阶导数判断x是否标记局部最小值、最大值或鞍点。

Hessian H是f的二阶导数的所有组合的矩阵。

1. 对于 2D 情况，Hessian 的行列式和小数是相关的。
2. 对于 nD 情况，它可能涉及计算 Hessian H的特征值（如果H是可逆的），作为检查H是否为正（或负）定的一部分。

事实上，1) 中的捷径是由 2) 泛化的

对于数值计算，可以使用某种优化策略来找到grad f = 0的x 。