拉格朗日乘數

用手机看条目

出自 MBA智库百科(https://wiki.mbalib.com/)

拉格朗日乘數（Lagrange Multipliers）

什麼是拉格朗日乘數

　　在數學最優化問題中，拉格朗日乘數法（以數學家約瑟夫•拉格朗日命名）是一種尋找變數受一個或多個條件所限制的多元函數的極值的方法。這種方法將一個有n 個變數與k 個約束條件的最優化問題轉換為一個有n + k個變數的方程組的極值問題，其變數不受任何約束。這種方法引入了一種新的標量未知數，即拉格朗日乘數：約束方程的梯度（gradient）的線性組合里每個向量的繫數。

　　簡單舉例：

　　最大化 $f (x, y)$ 。

　　受限於 $g (x, y) = c$ 。

　　引入新變數拉格朗日乘數 $λ$ ，即可求解下列拉格朗日方程

　　 $\Lambda(x,y,\lambda) = f(x,y) + \lambda \cdot \Big(g(x,y)-c\Big),$

　　此方法的證明牽涉到偏微分，全微分或鏈法，從而找到能讓設出的隱函數的微分為零的未知數的值。

[編輯]

拉格朗日乘數的介紹

　　微積分中最常見的問題之一是求一個函數的極大極小值（極值）。但是很多時候找到極值函數的顯式表達是很困難的，特別是當函數有先決條件或約束時。拉格朗日乘數則提供了一個非常便利方法來解決這類問題，而避開顯式地引入約束和求解外部變數。

　　先看一個二維的例子：假設有函數： $f (x, y)$ ，要求其極值（最大值/最小值），且滿足條件： $g\left( x,y \right) = c$ 。

　　c 為常數。對不同 $d n$ 的值，不難想象出 $f \left( x, y \right)=d_n$ 的等高線。而方程 $g$ 的可行集所構成的線正好是 $g (x, y) = c$ 。想象我們沿著 $g = c$ 的可行集走；因為大部分情況下 $f$ 的等高線和 $g$ 的可行集線不會重合，但在有解的情況下，這兩條線會相交。想象此時我們移動 $g = c$ 上的點，因為 $f$ 是連續的方程，我們因此能走到 $f \left( x, y \right)=d_n$ 更高或更低的等高線上，也就是說 $d n$ 可以變大或變小。只有當 $g = c$ 和 $f \left( x, y \right)=d_n$ 相切，也就是說，此時，我們正同時沿著 $g = c$ 和 $f \left( x, y \right)=d_n$ 走。這種情況下，會出現極值或鞍點。

　　氣象圖中就很常出現這樣的例子，當溫度和氣壓兩列等高線同時出現的時候，切點就意味著約束極值的存在。

　　用向量的形式來表達的話，我們說相切的性質在此意味著 $f$ 和 $g$ 的切線在某點上平行。此時引入一個未知標量λ，並求解：

　　 $\nabla \Big[f \left(x, y \right) + \lambda \left(g \left(x, y \right) - c \right) \Big] = 0$

　　且λ ≠ 0。

　　一旦求出λ的值，將其套入下式，易求在無約束極值和極值所對應的點。

　　 $F \left( x , y \right)$ = $f \left( x , y \right) + \lambda \left( g \left( x , y \right) - c \right)$

　　新方程 $F (x, y)$ 在達到極值時與 $f (x, y)$ 相等，因為 $F (x, y)$ 達到極值時 $g (x, y) - c$ 總等於零。

[編輯]

拉格朗日乘數的運用方法

　　如f定義為在Rⁿ上的方程，約束為g_k（x）= c_k（或將約束左移得到g_k(x) − c_k = 0）。定義拉格朗日Λ為

　　 $\Lambda(\mathbf x, \boldsymbol \lambda) = f + \sum_k \lambda_k(g_k-c_k)$ 。

　　註意極值的條件和約束現在就都被記錄到一個式子里了：

　　 $\nabla \Lambda = 0 \Leftrightarrow \nabla f = - \sum_k \lambda_k \nabla\ g_k,$ 和 $\nabla_{\mathbf \lambda} \Lambda = 0 \Leftrightarrow g_k = c_k$ 。