Question

最后，通过直接分析特征值/特征向量，用矩阵微积分来解决一个优化问题。接下来，考虑等式约束优化问题：

对于一个对称矩阵 A ∈ Sⁿ，解决等式约束优化问题的标准方法是构造 拉格朗日 （一个包括等式约束的目标函数）。这种情况下的拉格朗日可由下式给出：

其中λ被称为与等式约束对应的拉格朗日乘子。对这问题可以找到一个 x*的最佳点，让拉格朗日的梯度在 x*上为零（这不是唯一的条件，但它是必需的）。 即：

注意，这其实是线性方程组 Ax =λx。这表明，假设 x^T x = 1，使 x^T Ax 最大化或（或最小化）的唯一的点正是 A 的特征向量。