概率分布

機率分布()簡稱分布,亦稱機率分配分配,是概率論中的一個概念。

{{各地中文名
| 名詞 =Probability distribution
|cn = 概率分布
|hk = 概率分佈
|tw =機率分布、機率分配
| where = 日本、韓國漢字
| other = 確率分-{}-布
}}

使用時可以有以下兩種含義:

  • 廣義地,它指稱:隨機變量的概率性質——當我們說概率空間(\Omega, \mathcal{F}, \mathbb{P}) 中的兩個隨機變量XY具有同樣的分布時,我們是無法用概率 \mathbb{P} 來區別他們的。換言之:

XY為同分布的隨機變量,當且僅當對任意事件A \in \mathcal{F} ,有\mathbb{P}(X\in A) = \mathbb{P}(Y\in A)成立。

但是,不能認為同分布的隨機變量是相同的隨機變量。事實上即使XY同分布,也可以没有任何點ω使得X(ω)=Y(ω)。在這個意義下,可以把隨機變量分類,每一類稱作一個分布,其中的所有隨機變量都同分布。用更簡要的語言來說,同分布是一種等價關係,每一個等價類就是一個分布。需注意的是,通常談到的離散分布、均勻分布、伯努利分布、正態分布、泊松分布等,都是指各種類型的分布,而不能視作一個分布。

  • 狹義地,它是指:隨機變量的概率分布函數。設X是樣本空間(\Omega, \mathcal{F})上的隨機變量,\mathbb{P}為概率測度,則稱如下定義的函數是X的分布函數,或稱累積分布函數:

F_X (a) = \mathbb{P}(X \leq a) ,對任意實數a定義。

具有相同分布函數的隨機變量一定是同分布的,因此可以用分布函數來描述一個分布,但更常用的描述手段是概率密度函數。

分布函數的性質刻劃
對於特定的隨機變量 X,其分布函數 F_X是單調不減及右連續,而且 F_X(-\infty)=0 , F_X(\infty)=1 。這些性質反過來也描述了所有可能成為分布函數的函數:

  • 設 F:[-\infty,\infty] \to [0,1], F(-\infty)=0, F(\infty)=1且單調不減、右連續,則存在概率空間(\Omega, \mathcal{F}, \mathbb{P})及其上的隨機變量 X ,使得 FX 的分布函數,即 F_X=F

隨機變量的分布
設 P 為概率測度,X 為隨機變量,則函數
F(x) = P(X \le x), (x\in\R)
稱為 X 的概率分布函數。如果将 X 看成是数轴上的随机点的坐标,那么,分布函数 F(x) 在 x 处的函数值就表示 X 落在区间 (-\infty,x] 上的概率。

例如,設隨機變量 X 為擲兩次骰子所得的點數差,而整个樣本空間由 36 个元素组成。

其分布函数是:
: F(x) = \begin{cases} 0, x

离散機率分布族
上面所列举的例子属于离散分布,即分布函数的值域是離散的,比如只取整數值的隨機變量就是屬於離散分布的。F (x)表示随机变量 X \leq x 的概率值。如果X的取值只有 x_1 ,則:

  • F_X (x_i)=\sum_{j=1}^i P (x_j)
  • \sum_{k=1}^n P (x_k)=1

其他常見的離散機率分布族有:
伯努利分布
二项式分布
二项分布是最重要的离散概率分布之一,由瑞士数学家雅各布·伯努利所发展,一般用二项分布来计算概率的前提是,每次抽出样品后再放回去,并且只能有两种试验结果,比如黑球或红球,正品或次品等。二项分布指出,随机一次试验出现的概率如果为p,那么在n次试验中出现k次的概率为:
: f ( n, k, p )= {n\choose k}p^{k}(1-p)^{n-k}
例如,在掷3次骰子中,不出现6点的概率是: f ( 3, 0, \frac{1}{6} )= {3\choose 0}\left(\frac{1}{6}\right)^{0}\left(\frac{5}{6}\right)^{3}= 0.579
在连续两次的轮盘游戏中,至少出现一次红色的概率为: f ( 2, 1, \frac{18}{37} )+f ( 2, 2, \frac{18}{37} )=0.736

二项分布在p = 0.5时表现出图像的对称性,而在p取其它值时是非对称的。另外二项分布的期望值\operatorname{E}(X)=np ,以及方差\operatorname{var}(X) = n\,p\,(1-p)\!

几何分布
負二項式分布
超几何分布
作为离散概率分布的超几何分布尤其指在抽样试验时抽出的样品不再放回去的分布情况。在一个容器中一共有N个球,其中M个黑球, ( N-M )个红球,通过下面的超几何分布公式可以计算出,从容器中抽出的n个球中(抽出的球不放回去)有k个黑球的概率是多少:
: f(k,n;M;N):= \frac{\displaystyle{M \choose k}{N-M \choose n-k}}{\displaystyle{N \choose n}}
例如,容器中一共10个球,其中6个黑色,4个白色,一共抽5次(抽出的球不放回去),在这5个球中有3个黑球的概率是:
f(k=3) = \frac{\displaystyle{6 \choose 3}{10-6 \choose 5-3}}{\displaystyle{10 \choose 5}} =0.476

超几何分布与二项式分布的关系
與二項式分布不同的是,在超几何分布中,特別强调的是抽出的样品在下一次抽取前不再放回去,但是如果抽取的次数n和总共样品数N相比很小(大约n/N ),这时在计算上二项分布和超几何分布相互间则没有主要的区别,此时人们更愿意采用二项分布的方法,因为在数学计算上二项分布要简单一些。

Poisson分布
Poisson近似是二项分布的一種極限形式。其强调如下的试验前提:一次抽样的概率值p相对很小,而抽取次数n值又相对很大。因此泊松分布又被称之为罕有事件分布。泊松分布指出,如果随机一次试验出现的概率为p,那么在n次试验中出现k次的概率按照泊松分布应该为:
: f ( n, k, p )= \frac{(n\cdot p)^k}{e^{n\cdot p}\cdot k!}
其中,数学常数e=2.71828...(自然對數的底数)
例如,某工厂在生产零件时,每200个成品中会有1个次品,那么在100个零件中最多出现2个次品的概率按照泊松分布应该是: f ( 100, 0, \frac{1}{200} )+ f ( 100, 1, \frac{1}{200} )+ f ( 100, 2, \frac{1}{200} )=0.986

在实践中如果遇到n值很大導致二项分布難於計算时,可以考慮使用泊松分布,但前提是 n\cdot p必須趨於一個有限极限。是:

n\ge 100

p\le 0.1

離散均匀分布
連續機率分布族
設X是具有分布函数F的连续随机变量,且F的一階導數處處存在,則其導函數
: f(x) =\frac{\operatorname{d}F(x)}{\operatorname{d}x}
称为X的機率密度函数。
每个機率密度函数都有如下性质:

  • \int_{-\infty}^\infty f(x) \, {\rm d}x = 1
  • \int_a^b f(x) \, {\rm d}x = \operatorname{P}(a\le X\le b) = F ( b )-F ( a )

第一个性质表明,機率密度函数与x轴形成的区域的面积等于1,第二个性质表明,连续随机变量在区间[ a, b ]的概率值等于密度函数在区间[ a, b ]上的积分,也即是与X轴在[ a, b ]内形成的区域的面积。因为0 \le F( x ) \le 1,且f(x)是F(x)的导数,因此按照积分原理不难推出上面两个公式。

正态分布、指数分布、t-分布,F-分布以及\chi^2-分布都是連續分布。

常見的連續機率分布族有:
均匀分布
正态分布
连续随机变量的機率密度函数如果是如下形式,
: f(x) = \frac {1}{\sigma\sqrt{2\pi}}e^\left(-\frac {1}{2} \left(\frac{x-\mu}{\sigma}\right)^2\right)
那么这个连续分布被称之为正态分布,或者高斯分布。其密度函数的曲线呈对称钟形,因此又被称之为钟形曲线,其中\mu是平均值,\sigma是标准差。正态分布是一种理想分布,许多典型的分布,比如成年人的身高,汽车轮胎的运转状态,人类的智商值(IQ),都属于或者说至少接近正态分布。同样按照连续分布的定义,常態機率密度函数具有和普通機率密度函数类似的性质:

  • \int_{-\infty}^\infty f(t)\, {\rm d}t = 1
  • F(x) =\frac {1}{\sigma\sqrt{2\pi}} \int_{-\infty}^x e^\left(-\frac {1}{2} \left(\frac{t-\mu}{\sigma}\right)^2\right) \, {\rm d}t

如果给出一个正态分布的平均值\mu以及标准差\sigma,可以根据上面的第二个公式计算出任一区间的概率分布情况。但是如上的计算量是相当庞大的,没有计算机的辅助基本是不可能的,解决这一问题的方法是借助z-变换以及标准正态分布表格(z-表格)。

中间值\mu = 0以及标准差\sigma = 1的正态分布被称之为标准正态分布,其累積分布函数是
: \Phi(z)=\frac 1{\sqrt{2\pi}} \cdot \int_{-\infty}^z e^{-\frac 12 t^2} \mathrm{d}t
将普通形式的正态分布变换到标准正态分布的方法是
: z=\frac{x-\mu}{\sigma}
例如,已知X服從正态分布,且\mu = 5,\sigma = 3,求区间概率值P (4。计算过程如下:

設另一隨機變量Z = \frac{X - 5}{3},則Z服從標準常態分佈,且
:\begin{align}
&\qquad\quad 4
所以
: P (4
其中 \Phi(z)值通过查z-表格获得。

正态分布与二项分布的关系
在离散分布中如果试验次数n值非常大,而且单次试验的概率p值又不是很小的情况下,正态分布可以用来近似的代替二项分布。一个粗略的使用正态分布的近似规则是:n\cdot p\cdot (1-p)\geq 9 。
从二项分布中获得\mu和\sigma值的方法是

  • 期望值 \mu=n\cdot p
  • 標準差 \sigma=\sqrt{n\cdot p \cdot (1-p) }

如果 \sigma >3,则必须采用下面的近似修正方法:
: P(x_1 \leq X \leq x_2) = \underbrace{\sum_{k=x_1}^{x_2} {n \choose k} \cdot p^k\cdot (q)^{n-k}}_{\mathrm{EF}} \approx \underbrace{\Phi\left(\frac{x_2+0.5-\mu}{\sigma}\right) -\Phi\left(\frac{x_1-0.5-\mu}{\sigma}\right)}_{\mathrm{ZF}}

(注:q = 1-p;EF:二项分布;ZF:正态分布)

上(下)临界值分别增加(减少)修正值0.5的目的是在\sigma值很大时获得更精确的近似值,只有\sigma很小时,修正值0.5可以不被考虑。

例如,随机试验为连续64次掷硬币,获得的国徽数位于32和42之间的概率是多少?用正态分布计算如下,
:: \mu=n\cdot p = 64 \cdot 0.5=32
:: \sigma=\sqrt{n\cdot p \cdot (1-p)} =\sqrt{64\cdot 0.5 \cdot 0.5 } =4
n\cdot p\cdot q = 16 \geq 9 ,符合近似规则,应用z-变换:
:: P(32 \leq X \leq 42) \approx \Phi\left(\frac{42+0.5-32}{4}\right) -\Phi\left(\frac{32-0.5-32}{4}\right)
:::::::= \Phi\left(2.63\right) -\Phi\left(-0.13\right) = 0.0517 + 0.4957 =0.5474

在运用z-表格时注意到利用密度函数的对称性来求出z为负值时的区域面积。

伽瑪分布
指数分布
其他連續型常用分布
貝它分布
雙指數分布
對數常態分布
柏拉圖分布
柯西分布
多元常態分布
参考文献

  • 彼得·缺菲尔(Peter Zoefel):《统计和经济学家》. PEASON Studium出版社,2003年. ISBN 3-8273-7062-0.
  • 约瑟夫·西拉(Josef Schira):《统计理论与企业管理》. PEASON Studium出版社,2003年. ISBN 3-8273-7041-8.
  • 汉斯-底特·黑伯曼(Hans-Dieter Hippmann):《统计学》. SCHAEFFER POESCHEL出版社,2003年. ISBN 3-7910-2119-2.

參見

  • 概率论
  • 隨機變數
  • 累积分布函数
  • 概率密度函数
  • 概率質量函数

注释
外部链接
; 概率分布Java演示

评论 (0)

  • 还没有评论,来抢沙发吧。