拉格朗日乘数

用手机看条目

出自 MBA智库百科(https://wiki.mbalib.com/)

拉格朗日乘数（Lagrange Multipliers）

什么是拉格朗日乘数

　　在数学最优化问题中，拉格朗日乘数法（以数学家约瑟夫•拉格朗日命名）是一种寻找变量受一个或多个条件所限制的多元函数的极值的方法。这种方法将一个有n 个变量与k 个约束条件的最优化问题转换为一个有n + k个变量的方程组的极值问题，其变量不受任何约束。这种方法引入了一种新的标量未知数，即拉格朗日乘数：约束方程的梯度（gradient）的线性组合里每个向量的系数。

　　简单举例：

　　最大化 $f (x, y)$ 。

　　受限于 $g (x, y) = c$ 。

　　引入新变量拉格朗日乘数 $λ$ ，即可求解下列拉格朗日方程

　　 $\Lambda(x,y,\lambda) = f(x,y) + \lambda \cdot \Big(g(x,y)-c\Big),$

　　此方法的证明牵涉到偏微分，全微分或链法，从而找到能让设出的隐函数的微分为零的未知数的值。

[编辑]

拉格朗日乘数的介绍

　　微积分中最常见的问题之一是求一个函数的极大极小值（极值）。但是很多时候找到极值函数的显式表达是很困难的，特别是当函数有先决条件或约束时。拉格朗日乘数则提供了一个非常便利方法来解决这类问题，而避开显式地引入约束和求解外部变量。

　　先看一个二维的例子：假设有函数： $f (x, y)$ ，要求其极值（最大值/最小值），且满足条件： $g\left( x,y \right) = c$ 。

　　c 为常数。对不同 $d n$ 的值，不难想象出 $f \left( x, y \right)=d_n$ 的等高线。而方程 $g$ 的可行集所构成的线正好是 $g (x, y) = c$ 。想象我们沿着 $g = c$ 的可行集走；因为大部分情况下 $f$ 的等高线和 $g$ 的可行集线不会重合，但在有解的情况下，这两条线会相交。想象此时我们移动 $g = c$ 上的点，因为 $f$ 是连续的方程，我们因此能走到 $f \left( x, y \right)=d_n$ 更高或更低的等高线上，也就是说 $d n$ 可以变大或变小。只有当 $g = c$ 和 $f \left( x, y \right)=d_n$ 相切，也就是说，此时，我们正同时沿着 $g = c$ 和 $f \left( x, y \right)=d_n$ 走。这种情况下，会出现极值或鞍点。

　　气象图中就很常出现这样的例子，当温度和气压两列等高线同时出现的时候，切点就意味着约束极值的存在。

　　用向量的形式来表达的话，我们说相切的性质在此意味着 $f$ 和 $g$ 的切线在某点上平行。此时引入一个未知标量λ，并求解：

　　 $\nabla \Big[f \left(x, y \right) + \lambda \left(g \left(x, y \right) - c \right) \Big] = 0$

　　且λ ≠ 0。

　　一旦求出λ的值，将其套入下式，易求在无约束极值和极值所对应的点。

　　 $F \left( x , y \right)$ = $f \left( x , y \right) + \lambda \left( g \left( x , y \right) - c \right)$

　　新方程 $F (x, y)$ 在达到极值时与 $f (x, y)$ 相等，因为 $F (x, y)$ 达到极值时 $g (x, y) - c$ 总等于零。

[编辑]

拉格朗日乘数的运用方法

　　如f定义为在Rⁿ上的方程，约束为g_k（x）= c_k（或将约束左移得到g_k(x) − c_k = 0）。定义拉格朗日Λ为

　　 $\Lambda(\mathbf x, \boldsymbol \lambda) = f + \sum_k \lambda_k(g_k-c_k)$ 。

　　注意极值的条件和约束现在就都被记录到一个式子里了：

　　 $\nabla \Lambda = 0 \Leftrightarrow \nabla f = - \sum_k \lambda_k \nabla\ g_k,$ 和 $\nabla_{\mathbf \lambda} \Lambda = 0 \Leftrightarrow g_k = c_k$ 。