统计学基础——常用的概率分布（二项分布、泊松分布、指数分布、正态分布）

变量类型：连续型变量如：正态分布离散型变量如：二项分布、泊松分布三者之间的关系二项分布(Binomial distribution)二项分布(Binomial distribution)是n重伯努利试验成功次数的离散概率分布，记作。伯努利试验是只有两种可能结果的单次随机试验。伯努利试验都可以表达为“是或否”的问题。例如，抛一次硬币是正面...

文章共9,093字 · 阅读需要大约31分钟

一键AI生成摘要，助你高效阅读

问答

xia ge tou lia

36927人浏览 · 2019-12-17 14:05:03

xia ge tou lia · 2019-12-17 14:05:03 发布

变量类型：

连续型变量如：指数分布、正态分布
离散型变量如：二项分布、泊松分布

三者之间的关系

二项分布(Binomial distribution)

二项分布(Binomial distribution)是n重伯努利试验成功次数的离散概率分布，记作 $B(n,\pi )$ 。伯努利试验是只有两种可能结果的单次随机试验。

伯努利试验都可以表达为“是或否”的问题。例如，抛一次硬币是正面向上吗？刚出生的小孩是个女孩吗？等等

如果试验E是一个伯努利试验，将E独立重复地进行n次，则称这一串重复的独立试验为n重伯努利试验。
进行一次伯努利试验，成功(X=1)概率为p(0<=p<=1)，失败(X=0)概率为1-p，则称随机变量X服从伯努利分布。伯努利分布是离散型概率分布，伯努利分布(Bernoulli distribution)又名两点分布或0-1分布。

二项分布的三个特点：

每次实验结果，只能是两个互斥的结果之一。
各次实验独立，各次的实验结果互不影响。。
相同的实验条件下，每次实验中事件A的发生具有相同的概率 $\pi$ 。

二项分布的概率函数 $P(X)$ 可用公式

$P(X)=C_{n}^{X}\pi^{X}(1-\pi )^{n-X}$

其中， $C_{n}^{X}=\frac{n!}{X!(n-X)!}$

对于任何二项分布，总有 $\sum_{X=0}^{n}P(X)=1$

例1.如果某地钩虫感染率为13%，随机观察当地150人，其中恰好有10人感染钩虫的概率有多大？

分析：
（1）钩虫感染只有两个互斥的结果，即感染与非感染；
（2）每个人被钩虫感染的概率相同；
（3）人与人之间钩虫感染可假设为相互独立的，所以感染钩虫的人数 X 可认为服从 n = 150，π = 0.13的二项分布。

$P(X)=C_{n}^{X}\pi^{X}(1-\pi )^{n-X}$

$P(X=10)=\frac{150!}{10!(150-10)!}\times (0.13^{10}\times 0.87^{(150-10)})=0.0055$

二项分布的特征

$n,\pi$ 是二项分布的两个参数，所以二项分布的形状取决于 $n,\pi$ (阳性率）。
当 $\pi$ =0.5时分布对称，近似对称分布。
当 $\pi$ ≠0.5时，分布呈偏态，特别是 $n$ 较小时， $\pi$ 偏离0.5越远，分布的对称性越差，但只要不接近1和0时，随着 $n$ 的增大，分布逐渐逼近正态。
当 $\pi$ 或 $1-\pi$ 不太小，而 $n$ 足够大，通常 $n\pi$ 和 $n(1-\pi )$ 均大于或等于5，我们常用正态近似的原理来处理二项分布的问题。

二项分布的正态近似

根据中心极限定理，在 $n$ 较大， $n\pi$ 与 $n(1-\pi )$ 均大于或等于5时，二项分布接近与正态分布。
当 $n$ 无穷大时，二项分布B( $n,\pi$ )的极限分布是总体均数为 $\mu =n\pi$ ，总体标准差为 $\sigma =\sqrt{n\pi (1-\pi )}$ 的正态分布 $N(n\pi ,n\pi (1-\pi ))$ ，此时可用该正态分布进行估计。

二项分布的均数和标准差

对于任何一个二项分布 $B(n,\pi )$ ，如果每次试验出现“阳性” 结果的概率均为 $\pi$ ，则在 $n$ 次独立重复实验中:

1、出现 X 次阳性结果

总体均数（出现阳性结果的次数X的均值）： $\mu_{X} =n\pi$

标准差（出现阳性结果的次数X的标准差）： $\sigma_{X} =\sqrt{n\pi (1-\pi )}$

2、阳性结果的频率记做为 $P=\frac{X}{n}$

$P$ 的总体均数（出现阳性结果频率 $P$ 的均值）： $\mu_{P} =\pi$

标准差（出现阳性结果频率 $P$ 的标准差）： $\sigma_{P} =\sqrt{\frac{\pi (1-\pi )}{n}}$

$\sigma_{P}$ 是频率P的标准误，反映阳性频率的抽样误差的大小。

泊松分布(Poisson distribution)

泊松分布是二项分布在阳性率特别小时的一种情形，用于描述单位时间、空间、面积等的罕见事件发生次数的概率分布，如：

每毫升水中的大肠杆菌数
单位时间(如1分钟)内放射性质点数
每1000个新生儿中某出生缺陷、多胞胎、染色体异常等事件出现的例数

泊松分布的三个特点：

泊松分布是二项分布当中的一种特殊情况，则泊松分布也遵循二项分布的三个特点：

观察结果相互独立
每次试验只有两个结果
发生的概率 $\pi$ 不变

如，人群中传染性疾病首例出现后便成为传染源，会增加后续病例出现的概率，因此病例数的分布不能看作是Poisson分布。

又如，污染的牛奶中细菌成集落存在，单位容量牛奶中细菌数不能认为服从Poisson分布。

泊松分布分布一般记作 $P(\lambda )$ ，其概率函数为:

$P(X)=e^{-\lambda }\frac{\lambda ^{X}}{X!}$

式中， $\lambda=n\pi$ 为Poisson分布的总体均数( $\pi$ 表示概率)； $X$ 为观察单位内某稀有事件的发生次数； $e$ 为自然对数的底，为常数，约等于2.71828，自然对数的底数e是由一个重要极限给出的：当 $n$ 趋于无限时， $\lim_{n \to +\propto }(1+\frac{1}{n})^n=e$ 。

泊松定理（泊松分布是二项分布当中的一种特殊情况）

设随机变量 $X(X=1,2,3,...)$ 服从二项分布，即 $P(X)=C_{n}^{X}\pi^{X}(1-\pi )^{n-X}$ 。其中， $\pi(0<\pi <1)$ 是与 $n$ 有关的数，且设 $n\pi =\lambda >0$ 是常数，则有 $\lim_{X \to \propto }P(X)=e^{-\lambda }\frac{\lambda ^{X}}{X!}$ ， $X=1,2,3,...$

证明：依题设有 $\pi =\frac{\lambda }{n}$ ，代入 $P(X)=C_{n}^{X}\pi^{X}(1-\pi )^{n-X}$ 中，有

$\begin{align}P(X) &=\frac{n(n-1)(n-2)...(n-X+1)}{X!}(\frac{\lambda }{n})^{X}(1-\frac{\lambda }{n})^{n-X} \\&=\frac{\lambda ^{X}}{X!}[\frac{n}{n}\cdot \frac{n-1}{n}\cdot \frac{n-2}{n}...\cdot \frac{n-X+1}{n}]\cdot(1-\frac{\lambda }{n}) ^{n}\cdot(1-\frac{\lambda }{n}) ^{-X} \\&=\frac{\lambda ^{X}}{X!}[1\cdot (1-\frac{1}{n})\cdot(1- \frac{2}{n})...\cdot (1-\frac{X-1}{n})]\cdot(1-\frac{\lambda }{n}) ^{n}\cdot(1-\frac{\lambda }{n}) ^{-X} \end{align}$

对于固定的 $X$ ，有

$\lim_{n \to +\propto }1\cdot (1-\frac{1}{n})\cdot(1- \frac{2}{n})...\cdot (1-\frac{X-1}{n})=1$

$\lim_{n \to +\propto }(1-\frac{\lambda }{n}) ^{n}=\lim_{n \to +\propto }(1-\frac{\lambda }{n}) ^{(-\frac{n}{\lambda })\cdot (-\lambda) }=e^{-\lambda }$ （根据 $\lim_{n \to +\propto }(1+\frac{1}{n})^n=e$ ）

$\lim_{n \to +\propto }(1-\frac{\lambda }{n}) ^{-X}=1$

所以 $\lim_{X \to \propto }P(X)=e^{-\lambda }\frac{\lambda ^{X}}{X!}$ ， $X=1,2,3,...$

可见，二项分布的极限分布是泊松分布，当n很大， $\pi$ 很小时，可用 $e^{-\lambda }\frac{\lambda ^{X}}{X!}$ 近似代替 $C_{n}^{X}\pi^{X}(1-\pi )^{n-X}(n\pi =\lambda )$ ，一般 $n\geq 20,\pi \leq 0.05$ 时，可采用上次近似公式代替。

泊松分布的特征

随着 $\lambda$ 的增大，Poisson分布逐渐趋于对称分布。
当 $\lambda$ >20时，Poisson分布可视为近似正态分布。

下图表示出了 $\lambda$ 对泊松分布的影响， $\lambda$ 表示泊松分布的均值。当 $\lambda$ 变大时，不仅整个分布模式向右移动，数据也更加分散，方差随之变大。

泊松分布的特性

总体均数与总体方差相等：均为 $\lambda$ 。
可加性：从总体均数分别为 $\lambda$ 1 和 $\lambda$ 2 的两个Poisson分布总体中各自随机抽出一份样本，其中稀有事件的发生次数分别为 $X_{1}$ 和 $X_{2}$ ，则合计发生数 $T=X_{1}+X_{2 }$ 也服从Poisson分布，总体均数为 $\lambda$ 1 + $\lambda$ 2 。

可加性的运用：分5次，每次都是监测5毫升的水样，得到的 $\lambda$ 都比20小，但是5次 $\lambda$ 相加的之后形成的 $\lambda$ 比20大的话，我们就可以10毫升水样当中的细菌数的分布用正态近似法了

例：某放射性物质半小时内发出的脉冲数服从Poisson分布，平均为 360个，试估计该放射性物质半小时内发出的脉冲数大于400个的概率。

$\begin{align} P(X>400) & = 1-P(X\leq 400)\approx 1-\Phi (\frac{400+0.5-360}{\sqrt{360}}) \\ & = 1-\Phi(2.135)=0.0164 \end{align}$

其中，0.5表示连续型校正，表示处理离散型变量，应用到连续型的正态分布的时候，效果更佳的一种修正。

注意：泊松分布不具备可乘性。

指数分布

设随机变量X的分布密度函数为

$f(x)=\left\{\begin{matrix} \lambda e^{-\lambda x},x>0\\ 0,x\leq 0 \end{matrix}\right.$

其中 $\lambda >0$ 为常数，我们称 $X$ 服从参数为 $\lambda$ 的指数分布，记作 $X\sim E(\lambda )$ ，其相应的分布函数为

$F(x)=\left\{\begin{matrix} 1-e^{-\lambda x},x>0 \\ 0,x\leq 0 \end{matrix}\right.$

$f(x)$ 和 $F(x)$ 的图形见下图。

指数分布的特性

总体均数 $E(X)=\frac{1}{\lambda}$ ，总体方差 $D(X)=\frac{1}{\lambda ^{2}}$ 。

指数分布通常用作各种“寿命”的分布。例如，无线电元件的寿命，动物的寿命等，另外电话问题的通话时间、随机服务系统中的服务时间等都可以认为服从指数分布，因此，它在排队论和可靠性理论等领域中有广泛的应用。

例、某电子元件的使用寿命X是一个连续型随机变量，其概率密度为

$f(x)=\left\{\begin{matrix} k e^{-\frac{x}{100}},x>0\\ 0,x\leq 0 \end{matrix}\right.$

(1)确定常数k

(2)求寿命超过100小时的概率

(3)已知该元件已经正常使用200小时，求它至少还能正常使用100小时的概率。

解：

(1)由概率密度函数性质2知

$\int_{0}^{+\propto }ke^{-\frac{x}{100}}dx=[-100ke^{-\frac{x}{100}}]|_{0}^{+\propto}=100k=1$ ，得 $k=0.01$ 。

(2)寿命超过100小时的概率为

$P(X>100)=1-F(100)=1-(1-e^{-0.01\times 100})=e^{-1}\approx 0.3679$

(3)条件概率

$\begin{align} P(X>300|X>200) &=\frac{P(X>300,X>200)}{P(X>200)}\\&=\frac{P(X>300)}{P(X>200)}\\&=\frac{e^{-3}}{e^{-2}}=e^{-1}\approx 0.3679 \end{align}$

由(2),(3)可知，该元件寿命超过100小时的概率等于已使用200小时的条件下至少还能使用100小时的概率，这个性质称为指数分布的“无记忆性”。

若随机变量X对任意的 $s>0,t>0$ 都有 $P(X>s+t|X>s)=P(X>t)$ ，则称X的分布具有无记忆性。

因此，指数分布具有无记忆性，若某元件或动物的寿命服从指数分布，则上式表明，如果已知寿命长于s年，则再“活”t年的概率与s无关，即对过去的s时间没有记忆，也就是说只要在某时刻s仍“活”着，它的剩余寿命的分布和原来的寿命分布相同，所以人们也戏称指数分布是“永远年轻的”。

正态分布(Normal distribution)

正态分布的概率密度函数（即纵向的曲线高度）

$f(X)=\frac{1}{\sigma \sqrt{2\pi }}e^{-\frac{1}{2}(\frac{X-\mu }{\sigma })^{2}}$ ， $-\infty < X< +\infty$

$\sigma$ 规定了曲线的形状， $\mu$ 反应了其在横轴上的位置不同。

正态分布的特征

关于 $x=\mu$ 对称，即正态分布以均数为中心，左右对称。
在 $x=\mu$ 处取得概率密度函数的最大值，在 $x=\mu\pm \sigma$ 处有拐点，表现为钟形曲线。即正态曲线在横轴上方均数处最高。
正态分布有两个参数，即均数 $\mu$ 和标准差 $\sigma$ 。 $\mu$ 是位置参数， $\sigma$ 是变异度参数（形状参数）。常用 $N(\mu ,\sigma ^{2})$ 表示均数为 $\mu$ ，标准差为 $\sigma$ 的正态分布；用 $N(0 ,1)$ 表示标准正态分布。
正态曲线下面积分布有一定规律。横轴上正态曲线下的面积等于1（也常写作100%）。

正态方程的积分式（概率分布函数）:

概率分布函数即为正态概率密度曲线下的面积。

$F(X)=\frac{1}{\sigma \sqrt{2\pi }}\int_{-\infty }^{X}e^{-\frac{1}{2}(\frac{X-\mu }{\sigma })^{2}}dX$

$F(X)$ 为正态变量 $X$ 的累计分布函数，反映正态曲线下，横轴尺度自 $-\infty$ 到 $X$ 的面积，即下侧累计面积。

标准正态分布

均数为0，标准差为1的正态分布，这种正态分布称为标准正态分布。

对于任意一个服从正态分布 $N(\mu ,\sigma ^{2})$ 的随机变量，可作如下的标准化变换，也称 $Z$ (z-score)变换：

其中， $Z=\frac{X-\mu }{\sigma }$ ，标准正态分布的概率密度函数： $f(Z)=\frac{1}{\sqrt{2\pi }}e^{-\frac{Z^{2}}{2}}$

标准正态分布方程积分式(概率分布函数)：

$\Phi (Z)=\frac{1}{2\pi }\int_{-\infty }^{Z}e^{-\frac{Z^{2}}{2}}dZ$

$\Phi (Z)$ 为标准正态变量 $Z$ 的累计分布函数，反映标准正态曲线下，横轴尺度自 $-\infty$ 到 $Z$ 的面积，即下侧累计面积，如下图所示。

标准正态分布表

用查表代替计算必须注意：

表中曲线下面积为 $-\infty$ 到 $Z$ 的面积。
当 $\mu$ , $\sigma$ 和 $X$ 已知时，先求出 $Z$ 值， $Z=\frac{X-\mu }{\sigma }$ ，再用Z值查表，得所求区间占总面积的比例。
当 $\mu$ 和 $\sigma$ 未知时，要用样本均数 $\overline{X}$ 和样本标准差 $S$ 来估计 $Z$ 值， $Z=\frac{X-\overline{X} }{S}$ 。
曲线下对称于0的区间，面积相等。
曲线下横轴上的面积为1 （即100% ）。

正态分布是一种对称分布，其对称轴为直线 $X=\mu$ ，即均数位置。

理论上：

$\mu \pm 1\sigma$ 范围内曲线下的面积占总面积的68.27%
$\mu \pm 1.96\sigma$ 范围内曲线下的面积占总面积的95%
$\mu \pm 2.58\sigma$ 范围内曲线下的面积占总面积的99%

实际上：

$\overline{X} \pm 1S$ 范围内曲线下的面积占总面积的68.27%
$\overline{X} \pm 1.96S$ 范围内曲线下的面积占总面积的95%
$\overline{X} \pm 2.58 S$ 范围内曲线下的面积占总面积的99%

实际应用中，我们一般将1.96看似成2，2.58看似成3。

标准正态分布的 $\mu$ =0， $\sigma$ =1，则

$\mu \pm 1\sigma$ 相当于区间(1，1)
$\mu \pm 1.96\sigma$ 相当于区间(1.96，1.96)
$\mu \pm 2.58\sigma$ 相当于区间(2.58，2.58)
区间(1,1)的面积： $1-2\Phi (-1)$ =1-2×0.1587=0.6826=68.26%
区间(1.96,1.96)的面积： $1-2\Phi (-1.96 )$ =1-2×0.0250=0.9500=95.00%
区间(2.58,2.58)的面积： $1-2\Phi (-2.58)$ =1-2×0.0049=0.9902=99.02%

例: 已知某地1986年120名8岁男童身高均数 $\overline{X}=123.02cm$ ， $S=4.79cm$ ，估计(1)该地8岁男孩身高在130 $cm$ 以上者占该地8岁男孩总数的百分比；(2)身高界于120 $cm$ ~128 $cm$ 者占该地8岁男孩总数的比例；(3)该地80%男孩身高集中在哪个范围？

(1)先做标准化转换:

$Z=\frac{X-\overline{X} }{S}=\frac{130-123.02}{4.79}=1.46$

$\Phi (-Z)=\Phi (-1.46)=0.0721$ 根据标准正态分布的对称性

理论上该地8岁男孩身高在130 $cm$ 以上者占该地8岁男孩总数的7.21%。

(2)

$Z_{1}=\frac{X_{1}-\overline{X} }{S}=\frac{120-123.02}{4.79}=-0.63$ $\Phi (Z_{1})=\Phi (-0.63)=0.2643$

$Z_{2}=\frac{X_{2}-\overline{X} }{S}=\frac{128-123.02}{4.79}=1.04$ $\Phi (Z_{2})=1-\Phi (-1.04)=0.8508$

$\Phi (Z_{2})-\Phi (Z_{1})=0.8508-0.2643=0.5865$

(3)

查标准正态分布界值表，标准正态分布曲线下左侧面积为0.10所对应的 $Z$ 值为1.28，所以80%的8岁男孩身高值集中在 $\overline{X} \pm 1.28S$ 区间内，即116.9 $cm$ ~129.2 $cm$ 。

正态分布的应用

制定参考值范围的步骤：

选择足够数量的正常人作为调查对象。
样本含量足够大。
确定取单侧还是取双侧正常值范围。

有些指标过高过低都是异常的，我们需要制定双侧的正常值范围

有些指标过低才是异常的，比如肺活量，我们只要制定单侧的正常值范围

选择适当的百分界限。

在实际操作当中，我们一般将正常人中的5%排除在外，计算95%参考值范围。

选择适当的计算方法。

正态近似法：适用于正态分布或近似正态分布的资料。

例1 某地调查120名健康女性血红蛋白，直方图显示，其分布近似于正态分布，得均数为117.4g/L，标准差为10.2g/L ，试估计该地正常女性血红蛋白的95%医学参考值范围。

分析：正常人的血红蛋白过高过低均为异常，要制定双侧正常值范围。

$\overline{X} \pm 1.96S=117.4\pm 1.96\times 10.2 = 97.41\sim 137.39$

该指标的95%医学参考值范围为97.41~137.39（g/L）

百分位数法：适用于偏态分布资料。

例2 某年某市调查了200例正常成人血铅含量（μg/100g) 如下，试估计该市成人血铅含量的95%医学参考值范围。

分析：血铅的分布为偏峰分布，且血铅含量只以过高为异常，要用百分位数法制定单侧上限。

$P_{95}=L+\frac{i}{f_{x}}(n\cdot x \%-\sum f_{L})=38+\frac{5}{7}(200\times 95\%-189)=38.7\mu g /100g$

GitCode 开源社区

旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。

更多推荐

【目标检测】目标检测的一些常用神经网络模型及方法

我的阶段性总结????文章目录1.概述1.2 目标检测的任务1.3 目标检测的分类2.R-CNN系列2.1 [R-CNN（Region with CNN features）](https://arxiv.org/pdf/1311.2524.pdf)2.2 [Fast R-CNN](https://www.cv-foundation.org/openaccess/content_iccv_2015/