概率分佈

用手机看条目

出自 MBA智库百科(https://wiki.mbalib.com/)

概率分佈(Probability Distribution)

什麼是概率分佈

　　概率分佈是指隨機變數X小於任何已知實數x的事件可以表示成的函數。用以表述隨機變數取值的概率規律。描述不同類型的隨機變數有不同的概率分佈形式。是概率論的基本概念之一。

概率分佈的概述

　　離散型隨機變數的分佈列只取有限個或可列個實數值的隨機變數稱為離散型隨機變數。例如，100件產品中有10件次品，從中隨意抽取5件，則其中的次品數X就是一個只取0，1，2，3，4，5的離散型隨機變數。描述離散型隨機變數的概率分佈使用分佈列，即給出離散型隨機變數的全部取值，及取每個值的概率。例如上面例子中次品數X的分佈列為：其中，表示從n個不同事物中取m個的組合數：

　　概率分佈第一行寫出隨機變數X的取值，第二行列出取相應值的概率。這就是X的分佈列。常見的離散型隨機變數的分佈有單點分佈、兩點分佈、正態分佈、二項分佈、幾何分佈、負二項分佈、超幾何分佈、泊松分佈等。

[編輯]

概率分佈的概念

　　概率分佈（probabilitydistribution）或簡稱分佈（distribution），是概率論的一個概念。使用時可以有以下兩種含義：

　　廣義地，概率分佈是指稱隨機變數的概率性質：當我們說概率空間 $(\Omega,\mathcal{F},\mathbb{P})$ 中的兩個隨機變數X和Y具有同樣的分佈（或同分佈）時，我們是無法用概率 $\mathbb{P}$ 來區別他們的。換言之：稱X和Y為同分佈的隨機變數，當且僅當對任意事件 $A\in\mathcal{F}$ ，有 $\mathbb{P}(X\in A)=\mathbb{P}(Y\in A)$ 成立。

　　但是，不能認為同分佈的隨機變數是相同的隨機變數。事實上即使X與Y同分佈，也可以沒有任何點ω使得X(ω)=Y(ω)。在這個意義下，可以把隨機變數分類，每一類稱作一個分佈，其中的所有隨機變數都同分佈。用更簡要的語言來說，同分佈是一種等價關係，每一個等價類就是一個分佈。需註意的是，通常談到的離散分佈、均勻分佈、伯努利分佈、正態分佈、泊松分佈等，都是指各種類型的分佈，而不能視作一個分佈。

　　狹義地，它是指隨機變數的概率分佈函數。設X是樣本空間 $(\Omega,\mathcal{F})$ 上的隨機變數， $\mathbb{P}$ 為概率測度，則稱如下定義的函數是X的分佈函數（distribution function），或稱累積分佈函數（cumulative distribution function，簡稱CDF）：

　　 $F_X(a)=\mathbb{P}(X\leq a)$ ，對任意實數a定義。

　　具有相同分佈函數的隨機變數一定是同分佈的，因此可以用分佈函數來描述一個分佈，但更常用的描述手段是概率密度函數（probability density function,pdf）。

[編輯]

分佈函數的性質刻劃

　　對於特定的隨機變數X，其分佈函數 $F X$ 是單調不減及右連續，而且 $F_X(-\infty)=0$ ， $F_X(\infty)=1$ 。這些性質反過來也描述了所有可能成為分佈函數的函數數：

　　設 $F[-\infty,\infty]\to[0,1],F(-\infty)=0,F(\infty)=1$ 且單調不減、右連續，則存在概率空間 $(\Omega,\mathcal{F},\mathbb{P})$ 及其上的隨機變數X，使得F是X的分佈函數，即 $F X = F$

[編輯]

隨機變數的分佈

　　設P為概率測度,X為隨機變數則函數

　　 $F(x)=P(X\le x)$ ( $x\in\R$ )

　　稱為X的概率分佈函數.如果將X看成是數軸上的隨機點的坐標，那麼，分佈函數F(x)在x處的函數值就表示X落在區間(-∞,x]上的概率。

　　例如，設隨機變數 $X$ 為擲兩次骰子所得的點數差，而整個樣本空間由36個元素組成，

數量	( i , j )∈ S	$x$	$P (X = x)$	$F (x)$
6	( 1,1 )，( 2,2 )，( 3,3 ) ( 4,4 )，( 5,5 )，( 6,6 )	0	6/36	6/36
10	( 1,2 )，( 2,3 ) ( 3,4 )，( 4,5 )，( 5,6 ) ( 2,1 )，( 3,2 )，( 4,3 ) ( 5,4 )，( 6,5 )	1	10/36	16/36
8	( 1,3 )，( 2,4 )，( 3,5 ) ( 4,6 )，( 3,1 )，( 4,2 ) ( 5,3 )，( 6,4 )	2	8/36	24/36
6	( 1,4 )，( 2,5 )，( 3,6 ) ( 4,1 )，( 5,2 )，( 6,3 )	3	6/36	30/36
4	( 1,5 )，( 2,6 ) ( 5,1 )，( 6,2 )	4	4/36	34/36
2	( 1,6 )，( 6,1 )	5	2/36	36/36

　　其分佈函數是：

　　 $F(x) = \begin{cases} 0 \longrightarrow x <0 \\6/36 \longrightarrow 0 \le x < 1\\16/36 \longrightarrow 1 \le x < 2\\24/36 \longrightarrow 2 \le x <3\\30/36 \longrightarrow 3 \le x < 4\\34/36 \longrightarrow 4 \le x < 5\\1 \longrightarrow 5 \le x \end{cases}$

[編輯]

離散分佈

　　上面所列舉的例子都屬於離散分佈，即分佈函數的值域是離散的，比如只取整數值的隨機變數就是屬於離散分佈的。 $F (x)$ 表示隨機變數 $X\leq x$ 的概率值。如果X的取值只有 $x 1 < x 2 < ... < x n$ ，則：

　　 $F_X(x_i)=\sum_{j=1}^iP(x_j)$

　　 $\sum_{k=1}^nP(x_i)=1$

[編輯]

二項分佈

　　二項分佈是最重要的離散概率分佈之一，由瑞士數學家雅各布·伯努利（Jokab Bernoulli）所發展，一般用二項分佈來計算概率的前提是，每次抽出樣品後再放回去，並且只能有兩種試驗結果，比如黑球或紅球，正品或次品等。二項分佈指出，隨機一次試驗出現的概率如果為 $p$ ，那麼在 $n$ 次試驗中出現 $k$ 次的概率為：

　　 $f(n,k,p)={n\choose k}p^{k}(1-p)^{n-k}$

　　例如，在擲3次骰子中，不出現6點的概率是： $f(3,0,\frac{1}{6})={3\choose0}\left(\frac{1}{6}\right)^{0}\left(\frac{5}{6}\right)^{3}=0.579$
在連續兩次的輪盤游戲中，至少出現一次紅色的概率為： $f(2,1,\frac{18}{37})+f(2,2,\frac{18}{37})=0.763$

　　二項分佈在 $p = 0.5$ 時表現出圖像的對稱性，而在 $p$ 取其它值時是非對稱的。另外二項分佈的期望值 $\operatorname{E}(X)=np$ ，以及方差 $\operatorname{var}(X)=n\,p\,(1-p)\!$

[編輯]

正態分佈和二項分佈

　　在離散分佈中如果試驗次數 $n$ 值非常大，而且單次試驗的概率 $p$ 值又不是很小的情況下，正態分佈可以用來近似的代替二項分佈。一個粗略的使用正態分佈的近似規則是： $n\cdot p\cdot(1-p)\geq9$ 。
從二項分佈中獲得 $μ$ 和 $σ$ 值的方法是

　　期望值 $\mu=n\cdot p$

　　標準差 $\sigma=\sqrt{n\cdot p\cdot(1-p)}$

　　如果 $σ > 3$ ，則必須採用下麵的近似修正方法：

　　 $P(x_1\leq X\leq x_2)=\underbrace{\sum_{k=x_1}^{x_2}{n\choose k}\cdot p^k\cdot(q)^{n-k}}_{\mathrm{EF}}\approx\underbrace{\Phi\left(\frac{x_2+0.5-\mu}{\sigma}\right)-\Phi\left(\frac{x_1-0.5-\mu}{\sigma}\right)}_{\mathrm{ZF}}$

　　註： $q = 1 - p$ ,EF：二項分佈，ZF：正態分佈)

　　上（下）臨界值分別增加（減少）修正值0.5的目的是在 $σ$ 值很大時獲得更精確的近似值，只有 $σ$ 很小時，修正值0.5可以不被考慮。

　　例如，隨機試驗為連續64次擲硬幣，獲得的國徽數位於32和42之間的概率是多少？用正態分佈計算如下，

　　 $\mu=n\cdot p=64\cdot0.5=32$

　　 $\sigma=\sqrt{n\cdot p\cdot(1-p)}=\sqrt{64\cdot0.5\cdot0.5}=4$

　　 $n\cdot p\cdot q=16\geq9$ ，符合近似規則，應用 $z$ -變換：

　　 $P(32\leq X\leq42)\approx\Phi\left(\frac{42+0.5-32}{4}\right)-\Phi\left(\frac{31-0.5-32}{4}\right)$

　　 $=\Phi\left(2.63\right)-\Phi\left(-0.13\right)=0.0517+0.4957=0.5474$

　　在運用z表格時註意到利用密度函數的對稱性來求出z為負值時的區域面積。

[編輯]

超幾何分佈

　　作為離散概率分佈的超幾何分佈尤其指在抽樣試驗時抽出的樣品不再放回去的分佈情況。在一個容器中一共有 $N$ 個球，其中 $M$ 個黑球， $(N - M)$ 個紅球，通過下麵的超幾何分佈公式可以計算出，從容器中抽出的 $n$ 個球中（抽出的球不放回去）有 $k$ 個黑球的概率是多少：

　　 $f(k,n;M;N)=\frac{\displaystyle{M\choose k}{N-M\choose n-k}}{\displaystyle{N\choose n}}$

　　例如，容器中一共10個球，其中6個黑色，4個白色，一共抽5次（抽出的球不放回去），在這5個球中有3個黑球的概率是：

　　 $f(k=3)=\frac{\displaystyle{6\choose3}{10-6\choose5-3}}{\displaystyle{10\choose5}}=0.476$

[編輯]

超幾何分佈和二項分佈的關係

　　和二項分佈不同的是，在超幾何分佈中，特別強調的是抽出的樣品在下一次抽取前不再放回去，但是如果抽取的次數 $n$ 和總共樣品數 $N$ 相比很小(大約 $n / N < 0,05$ )，這時在計算上二項分佈和超幾何分佈相互間則沒有主要的區別，此時人們更願意採用二項分佈的方法，因為在數學計算上二項分佈要簡單一些。

[編輯]

泊松近似

　　泊松近似是二項分佈的一種極限形式。其強調如下的試驗前提：一次抽樣的概率值 $p$ 相對很小，而抽取次數 $n$ 值又相對很大。因此泊松分佈又被稱之為罕有事件分佈。泊松分佈指出，如果隨機一次試驗出現的概率為 $p$ ，那麼在 $n$ 次試驗中出現 $k$ 次的概率按照泊松分佈應該為：

　　 $f(n,k,p)=\frac{(n\cdot p)^k}{e^{n\cdot p}\cdot k!}$

　　其中數學常數 $e = 2.71828...$ (自然對數的底數)
例如，某工廠在生產零件時，每200個成品中會有1個次品，那麼在100個零件中最多出現2個次品的概率按照泊松分佈應該是：

　　 $f(100,0,\frac{1}{200})+f(100,1,\frac{1}{200})+f(100,2,\frac{1}{200})=0.986$

　　在實踐中如果遇到 $n$ 值很大導致二項分佈難於計算時，可以考慮使用泊松分佈，但前提是 $n\cdot p$ 必須趨於一個有限極限。採用泊松分佈的一個不太嚴格的規則是：

　　 $n\ge100$

　　 $p\le0.1$

[編輯]

連續分佈

　　設 $X$ 是具有分佈函數 $F$ 的連續隨機變數，且F的一階導數處處存在，則其導函數

　　 $f(x)=\frac{\operatorname{d}F(x)}{\operatorname{d}x}$

　　稱為 $X$ 的機率密度函數。
每個機率密度函數都有如下性質：

　　 $\int_{-\infty}^\infty f(x)\,{\rm d}x=1$

　　 $\int_a^bf(x)\,{\rm d}x=\operatorname{P}(a\le X\le b)=F(b)-F(a)$

　　第一個性質表明，機率密度函數與 $x$ 軸形成的區域的面積等於1，第二個性質表明，連續隨機變數在區間[ab]的概率值等於密度函數在區間[ab]上的積分，也即是與 $X$ 軸在[ab]內形成的區域的面積。因為 $0\le F(x)\le1$ ，且 $f (x)$ 是 $F x)$ 的導數，因此按照積分原理不難推出上面兩個公式。

　　正態分佈和指數分佈 $t$ -分佈， $F$ -分佈以及 $ξ 2$ -分佈都是連續分佈。

[編輯]

正態分佈

　　連續隨機變數的機率密度函數如果是如下形式，

　　 $f(x)=\frac{1}{\sigma\sqrt{2\pi}}e^\left(-\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^2\right)$

　　那麼這個連續分佈被稱之為正態分佈，或者高斯分佈。其密度函數的曲線呈對稱鐘形，因此又被稱之為鐘形曲線，其中 $μ$ 是平均值， $σ$ 是標準差。正態分佈是一種理想分佈，許多典型的分佈，比如成年人的身高，汽車輪胎的運轉狀態，人類的智商值（IQ），都屬於或者說至少接近正態分佈。同樣按照連續分佈的定義，正態機率密度函數具有和普通機率密度函數類似的性質：

　　 $\int_{-\infty}^\infty f(t)\,{\rm d}t=1$