Article

概率论-CH7-连续概率分布

概率论-CH7-连续概率分布,待补充摘要。

May 27, 2026 修考 84 min read

https://www.eecs70.org/assets/pdf/notes/n20.pdf

https://gemini.google.com/app/9e0ffeb20726675f

连续概率分布 (Continuous Probability Distributions)

本笔记整理自手写课堂笔记与 CS 70 课程教材 (Note 20),对公式进行了严谨的推导,并针对手写笔记中的重点疑问进行了直观解答。

一、 连续均匀概率空间 (Continuous Uniform Probability Space)

Uniform Distribution EXPLAINED with ...

1. 核心动机:从离散走向连续

在离散概率空间中,样本点 ωΩ\omega \in \Omega 是有限或可数无限的,我们可以为每一个点赋予一个具体的概率值 P[ω]P[\omega]。 然而,在现实世界中,许多物理量是连续的(例如:幸运转盘指针停留的位置、粒子的位置、某事件发生的时间等)。

若设均匀转盘的周长为 ll,则指针的位置可能落在区间 [0,l][0, l] 内的任何实数。如果尝试用离散的方法对连续空间建模:

  • 若每个点的概率 P[ω]>0P[\omega] > 0,由于区间内有无穷多个实数点,所有点的概率之和将趋向于 \infty
  • 若每个点的概率 P[ω]=0P[\omega] = 0,则无法通过简单求和来计算任何事件的概率。

2. 解决方案:关注区间的占比

在连续概率中,我们不再对“点”赋予概率,而是对“区间(事件)”赋予概率。 对于均匀概率空间,区间 [a,b][0,l][a, b] \subseteq [0, l](其中 b>ab > a)的概率与该区间的长度占比成正比:

P[aXb]=区间 [a,b] 的长度区间 [0,l] 的长度=balP[a \le X \le b] = \frac{\text{区间 } [a, b] \text{ 的长度}}{\text{区间 } [0, l] \text{ 的长度}} = \frac{b-a}{l}

核心结论:在连续概率空间中,我们只能求某一个区间上的概率,而单点概率 P[X=a]=0P[X=a] = 0

二、 连续随机变量与概率密度函数 (PDF)

1. 概率密度函数 (PDF) 的定义

由于单点概率为 0,我们引入概率密度函数 (Probability Density Function, PDF) f(x)f(x) 来描述连续随机变量的分布。

若实值随机变量 XX 的函数 f:RRf: \mathbb{R} \rightarrow \mathbb{R} 满足以下两个条件,则称其为 PDF:

  1. 非负性:对于所有 xRx \in \mathbb{R},有 f(x)0f(x) \ge 0

  2. 归一性(总积分为 1):

    f(x)dx=1\int_{-\infty}^{\infty} f(x) dx = 1

此时,随机变量 XX 落在区间 [a,b][a, b] 内的概率定义为 PDF 在该区间上的定积分(即曲线下的面积):

P[aXb]=abf(x)dxP[a \le X \le b] = \int_{a}^{b} f(x) dx

📌 【学生疑难解答 1】PDF f(x)f(x) 可以大于 1 吗?

解答可以,完全可以! 手写笔记中红字提到:“f(x)f(x) 可以大于 1,因为可能 bab-a 太小了”。这是非常准确的直觉。

  • 概念区分f(x)f(x) 不是概率,它是单位长度上的概率密度(Probability per unit length)。
  • 数值解释:在微小区间 [x,x+dx][x, x+dx] 近似中,有 P[xXx+dx]f(x)dxP[x \le X \le x+dx] \approx f(x) dx
  • 实例说明:若 XX 在区间 [0,12][0, \frac{1}{2}] 上服从均匀分布,为了保证总积分为 1,其密度函数必须为 f(x)=2f(x) = 2 (对于 x[0,12]x \in [0, \frac{1}{2}])。这里的 22 远大于 1,但它依然是一个合法的 PDF。

2. 累积分布函数 (CDF)

手写笔记中指出,累积分布函数(Cumulative Distribution Function, CDF)是一个变上限积分。 定义 F(x)F(x) 为随机变量 XX 小于或等于 xx 的概率:

F(x)=P[Xx]=xf(z)dzF(x) = P[X \le x] = \int_{-\infty}^{x} f(z) dz

根据微积分基本定理,若 f(x)f(x) 连续,则 PDF 是 CDF 的导数:

f(x)=dF(x)dxf(x) = \frac{dF(x)}{dx}

3. 期望与方差 (Expectation & Variance)

3.1 核心公式

将离散随机变量公式中的“求和 \sum”自然替换为“积分 \int”:

  • 期望 (Expectation)

    E[X]=xf(x)dxE[X] = \int_{-\infty}^{\infty} x f(x) dx

  • 方差 (Variance)

    Var(X)=E[(XE[X])2]=E[X2](E[X])2\text{Var}(X) = E[(X - E[X])^2] = E[X^2] - (E[X])^2

    其中:

    E[X2]=x2f(x)dxE[X^2] = \int_{-\infty}^{\infty} x^2 f(x) dx

3.2 经典例题:连续均匀分布 U(0,l)U(0, l) 的期望与方差推导

XU(0,l)X \sim U(0, l),其 PDF 为:

f(x)={1l,0xl0,其他f(x) = \begin{cases} \frac{1}{l}, & 0 \le x \le l \\ 0, & \text{其他} \end{cases}

期望推导

E[X]=0lx1ldx=[x22l]0l=l22l=l2E[X] = \int_{0}^{l} x \cdot \frac{1}{l} dx = \left[ \frac{x^2}{2l} \right]_{0}^{l} = \frac{l^2}{2l} = \frac{l}{2}

方差推导: 首先计算 E[X2]E[X^2]

E[X2]=0lx21ldx=[x33l]0l=l33l=l23E[X^2] = \int_{0}^{l} x^2 \cdot \frac{1}{l} dx = \left[ \frac{x^3}{3l} \right]_{0}^{l} = \frac{l^3}{3l} = \frac{l^2}{3}

进而计算 Var(X)\text{Var}(X)

Var(X)=E[X2](E[X])2=l23(l2)2=l23l24=l212\text{Var}(X) = E[X^2] - (E[X])^2 = \frac{l^2}{3} - \left(\frac{l}{2}\right)^2 = \frac{l^2}{3} - \frac{l^2}{4} = \frac{l^2}{12}

4. 联合密度 (Joint Density)

当研究两个连续随机变量 XXYY 时,我们使用联合概率密度函数 fX,Y(x,y)f_{X,Y}(x, y)

满足条件:

  1. fX,Y(x,y)0f_{X,Y}(x, y) \ge 0
  2. fX,Y(x,y)dxdy=1\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f_{X,Y}(x, y) dx dy = 1

区间概率计算(类似重积分):

P[aXb,cYd]=cdabfX,Y(x,y)dxdyP[a \le X \le b, c \le Y \le d] = \int_{c}^{d} \int_{a}^{b} f_{X,Y}(x, y) dx dy

4.1 边缘密度 (Marginal Density)

⚠️ 纠正手写笔记:手写笔记中边缘密度的积分限写成了 aa bb,这在一般情况下是不对的。应当积掉不关心的变量,积分限为 -\infty ++\infty

  • XX 的边缘密度(积掉 YY):

    fX(x)=fX,Y(x,y)dyf_X(x) = \int_{-\infty}^{\infty} f_{X,Y}(x, y) dy

  • YY 的边缘密度(积掉 XX):

    fY(y)=fX,Y(x,y)dxf_Y(y) = \int_{-\infty}^{\infty} f_{X,Y}(x, y) dx

4.2 条件密度 (Conditional Density)

已知 X=xX=x 的条件下,YY 的条件概率密度为:

fYX=x(y)=fX,Y(x,y)fX(x)f_{Y|X=x}(y) = \frac{f_{X,Y}(x, y)}{f_X(x)}

5. 独立性 (Independence)

若连续随机变量 XXYY 独立,则对任意区间均有 P[aXb,cYd]=P[aXb]P[cYd]P[a \le X \le b, c \le Y \le d] = P[a \le X \le b] P[c \le Y \le d]。 在密度函数上的等价条件为:

fX,Y(x,y)=fX(x)fY(y)(对所有 x,yR)f_{X,Y}(x, y) = f_X(x) f_Y(y) \quad (\text{对所有 } x, y \in \mathbb{R})

此时,容易证明条件密度等于边缘密度:

fYX=x(y)=fX(x)fY(y)fX(x)=fY(y)f_{Y|X=x}(y) = \frac{f_X(x)f_Y(y)}{f_X(x)} = f_Y(y)

6. 全概率公式 (Total Probability Rule)

在连续空间中,全概率公式可以写为积分形式:

  • 对于事件 AA

    P[A]=P[AX=x]fX(x)dxP[A] = \int_{-\infty}^{\infty} P[A | X = x] f_X(x) dx

  • 对于另一个随机变量 YY 的边际密度:

    fY(y)=fYX=x(y)fX(x)dxf_Y(y) = \int_{-\infty}^{\infty} f_{Y|X=x}(y) f_X(x) dx

三、 指数分布 (Exponential Distribution)

指数分布通常用于模拟事件发生前的“等待时间”(如设备寿命、下一次请求到达的时间等),它是几何分布在连续时间下的完美对应。

image-20260527152827640

1. 定义与验证

对于参数 λ>0\lambda > 0,若随机变量 XExp(λ)X \sim \text{Exp}(\lambda),其 PDF 为:

f(x)={λeλx,x00,x<0f(x) = \begin{cases} \lambda e^{-\lambda x}, & x \ge 0 \\ 0, & x < 0 \end{cases}

PDF 合法性验证

0λeλxdx=[eλx]0=0(1)=1\int_{0}^{\infty} \lambda e^{-\lambda x} dx = \left[ -e^{-\lambda x} \right]_{0}^{\infty} = 0 - (-1) = 1

2. 期望与方差的严格推导(必考:使用分部积分法)

为了计算期望和方差,我们需要使用分部积分公式 udv=uvvdu\int u dv = uv - \int v du

2.1 期望 E[X]E[X] 的推导

E[X]=0x(λeλx)dxE[X] = \int_{0}^{\infty} x \left( \lambda e^{-\lambda x} \right) dx

u=x    du=dxu = x \implies du = dxdv=λeλxdx    v=eλxdv = \lambda e^{-\lambda x} dx \implies v = -e^{-\lambda x}

E[X]=[xeλx]00(eλx)dxE[X] = \left[ -x e^{-\lambda x} \right]_{0}^{\infty} - \int_{0}^{\infty} \left( -e^{-\lambda x} \right) dx

由于 limxxeλx=0\lim_{x \to \infty} x e^{-\lambda x} = 0(指数函数增长远快于线性增长),第一项在区间端点值均为 0。

E[X]=0+[1λeλx]0=1λE[X] = 0 + \left[ -\frac{1}{\lambda} e^{-\lambda x} \right]_{0}^{\infty} = \frac{1}{\lambda}

2.2 二阶矩 E[X2]E[X^2] 的推导

E[X2]=0x2(λeλx)dxE[X^2] = \int_{0}^{\infty} x^2 \left( \lambda e^{-\lambda x} \right) dx

u=x2    du=2xdxu = x^2 \implies du = 2x dxdv=λeλxdx    v=eλxdv = \lambda e^{-\lambda x} dx \implies v = -e^{-\lambda x}

E[X2]=[x2eλx]00(eλx)(2x)dxE[X^2] = \left[ -x^2 e^{-\lambda x} \right]_{0}^{\infty} - \int_{0}^{\infty} \left( -e^{-\lambda x} \right) \cdot (2x) dx

第一项同样为 0,第二项化简为:

E[X2]=2λ0x(λeλx)dx=2λE[X]=2λ2E[X^2] = \frac{2}{\lambda} \int_{0}^{\infty} x \left( \lambda e^{-\lambda x} \right) dx = \frac{2}{\lambda} E[X] = \frac{2}{\lambda^2}

2.3 方差 Var(X)\text{Var}(X)

Var(X)=E[X2](E[X])2=2λ2(1λ)2=1λ2\text{Var}(X) = E[X^2] - (E[X])^2 = \frac{2}{\lambda^2} - \left(\frac{1}{\lambda}\right)^2 = \frac{1}{\lambda^2}

3. 尾部概率 (Tail Probability)

设备在 tt 时刻后仍未损坏(即生存概率)为:

P[X>t]=tλeλxdx=[eλx]t=eλtP[X > t] = \int_{t}^{\infty} \lambda e^{-\lambda x} dx = \left[ -e^{-\lambda x} \right]_{t}^{\infty} = e^{-\lambda t}

这个结果表明,随着等待时间 tt 的增加,未发生事件的概率呈现指数级衰减

📌 【学生疑难解答 2】为什么等了 tt 秒之后,未来的等待时间还是“全同”的?(无记忆性)

解答:这对应了手写笔记中画红星的疑惑:“我不能理解为什么 tt 折进约二分之一后还是全同的(我不理解等了 tt 秒之后还是同等的)”。

这被称为指数分布的无记忆性 (Memoryless Property)。数学定义为:对任意 s,t0s, t \ge 0,有:

P[X>s+tX>s]=P[X>t]P[X > s+t \mid X > s] = P[X > t]

严格证明: 根据条件概率公式:

P[X>s+tX>s]=P[X>s+tX>s]P[X>s]=P[X>s+t]P[X>s]P[X > s+t \mid X > s] = \frac{P[X > s+t \cap X > s]}{P[X > s]} = \frac{P[X > s+t]}{P[X > s]}

代入尾部概率公式 P[X>y]=eλyP[X > y] = e^{-\lambda y}

eλ(s+t)eλs=eλseλteλs=eλt=P[X>t]\frac{e^{-\lambda(s+t)}}{e^{-\lambda s}} = \frac{e^{-\lambda s} \cdot e^{-\lambda t}}{e^{-\lambda s}} = e^{-\lambda t} = P[X > t]

直观物理理解: 想象一颗放射性原子核。它在下一个小时内衰变的概率,与它之前已经存在了 1 年还是 10 年完全无关。原子核没有“衰老”的概念,它不会因为“活得久”就更容易在下一秒坏掉。 同样的,如果一个灯泡的寿命符合指数分布,那么一个已经用了 ss 小时的旧灯泡,能再撑 tt 小时的概率,和一个刚买来的新灯泡能撑 tt 小时的概率是一模一样的。这就是“无记忆性”。

📌 【学生疑难解答 3】指数分布和泊松分布有什么深刻联系?

解答:手写笔记中写道:“为什么让我感觉有些像泊松分布?”。您的直觉极其敏锐! 它们确实是同一个随机过程的两面:

  • 泊松分布 (Poisson Distribution):关注的是个数。在固定的单位时间内,某事件发生的次数 NPoisson(λ)N \sim \text{Poisson}(\lambda)
  • 指数分布 (Exponential Distribution):关注的是时间。在事件以恒定速率 λ\lambda 发生的过程中,两次事件之间的等待时间 TExp(λ)T \sim \text{Exp}(\lambda)
  • 简单关系:如果一小时内平均发生 λ\lambda 次事件,那么发生一次事件平均需要等待 1λ\frac{1}{\lambda} 小时(即期望 E[T]=1λE[T] = \frac{1}{\lambda})。

4. 补充例题

题目:假设某服务器接收到请求的时间间隔(单位:秒)服从参数 λ=0.5\lambda = 0.5 的指数分布。

  1. 求两个相邻请求之间等待时间大于 4 秒的概率。
  2. 求服务器接收一个请求的平均等待时间。

解答

  1. 设等待时间为随机变量 TExp(0.5)T \sim \text{Exp}(0.5)

    P[T>4]=e0.5×4=e20.1353P[T > 4] = e^{-0.5 \times 4} = e^{-2} \approx 0.1353

  2. 平均等待时间即为期望:

    E[T]=1λ=10.5=2 秒E[T] = \frac{1}{\lambda} = \frac{1}{0.5} = 2 \text{ 秒}

四、 正态分布 (Normal Distribution)

正态分布(高斯分布)是自然界中最常见、最重要的连续概率分布。

1. 定义

若随机变量 XN(μ,σ2)X \sim N(\mu, \sigma^2)(其中均值为 μ\mu,方差为 σ2\sigma^2),其 PDF 为:

f(x)=12πσ2e(xμ)22σ2f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}

μ=0,σ=1\mu=0, \sigma=1 时,称为标准正态分布 N(0,1)N(0, 1)

📌 【学习技巧】如何优雅地记住这个公式?

手写笔记中红字写道:“有些记不住”。这里有一个直观的拆解记忆法:

  1. 核心形状:钟形曲线的核心是负指数高斯核 ez2/2e^{-z^2/2},代表偏离中心的指数衰减。
  2. 标准化偏离度:将偏离均值的距离标准化为标准差的倍数:z=xμσz = \frac{x-\mu}{\sigma}。代入高斯核得到:e(xμ)22σ2e^{-\frac{(x-\mu)^2}{2\sigma^2}}
  3. 归一化系数:为了保证整个实数轴上的积分为 1,前面必须乘以系数 12πσ\frac{1}{\sqrt{2\pi}\sigma}。 *记作:一除根号二派西格玛,乘以 e 的负(偏差除以西格玛)平方除以二。*

image-20260527152854833

2. 标准化引理 (Standardization Lemma)

这是正态分布最关键的计算性质。

XN(μ,σ2)X \sim N(\mu, \sigma^2),则通过平移和缩放:

Y=XμσN(0,1)Y = \frac{X - \mu}{\sigma} \sim N(0, 1)

这意味着,所有的正态分布问题都可以转化为标准正态分布来求解。我们用 Φ(z)\Phi(z) 表示标准正态分布的 CDF:

Φ(z)=P[Yz]=12πzet2/2dt\Phi(z) = P[Y \le z] = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{z} e^{-t^2/2} dt

image-20260527152914256

3. 补充例题

题目:已知某校男生的身高 XN(175,25)X \sim N(175, 25)(即均值为 175 cm,方差为 25 cm2cm^2,标准差 σ=5\sigma = 5)。随机选一名男生,求其身高在 170 cm 到 185 cm 之间的概率。 (已知标准正态分布表值:Φ(1)0.8413\Phi(1) \approx 0.8413, Φ(2)0.9772\Phi(2) \approx 0.9772

解答: 我们欲求 P[170X185]P[170 \le X \le 185]。利用标准化进行转化:

P[170X185]=P[1701755X17551851755]P[170 \le X \le 185] = P\left[ \frac{170 - 175}{5} \le \frac{X - 175}{5} \le \frac{185 - 175}{5} \right]

=P[1Y2](其中 YN(0,1))= P[-1 \le Y \le 2] \quad (\text{其中 } Y \sim N(0, 1))

=Φ(2)Φ(1)= \Phi(2) - \Phi(-1)

由于正态分布曲线的对称性,Φ(1)=1Φ(1)\Phi(-1) = 1 - \Phi(1)

P[1Y2]=Φ(2)(1Φ(1))=0.9772(10.8413)=0.97720.1587=0.8185P[-1 \le Y \le 2] = \Phi(2) - (1 - \Phi(1)) = 0.9772 - (1 - 0.8413) = 0.9772 - 0.1587 = 0.8185

所以,该校男生身高在 170 ~ 185 cm 之间的概率约为 81.85%81.85\%

image-20260527152932523

五、 中心极限定理 (Central Limit Theorem, CLT)

1. 核心思想

无论底层独立同分布(i.i.d.)的随机变量 XiX_i 服从什么奇形怪状的分布,只要样本量 nn 足够大,它们的累加和 SnS_n样本均值 AnA_n 都会趋向于正态分布!

2. 数学表述

X1,X2,,XnX_1, X_2, \dots, X_n 是独立同分布的随机变量序列,其共同期望为 E[Xi]=μE[X_i] = \mu,方差为 Var(Xi)=σ2\text{Var}(X_i) = \sigma^2(均有限)。 令其累加和为 Sn=i=1nXiS_n = \sum_{i=1}^{n} X_i。容易得到:

  • E[Sn]=nμE[S_n] = n\mu
  • Var(Sn)=nσ2\text{Var}(S_n) = n\sigma^2

nn \to \infty 时,其标准化随机变量 ZnZ_n 收敛到标准正态分布 N(0,1)N(0, 1)

Zn=SnnμσndN(0,1)Z_n = \frac{S_n - n\mu}{\sigma \sqrt{n}} \xrightarrow{d} N(0, 1)

📌 【学生疑难解答 4】为什么 P(Znc)P(Z_n \le c) 会等后面那一长串积分?

解答:手写笔记最后写道:“我不了解的是:为什么 P(Znc)12πcex2/2dxP(Z_n \le c) \approx \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{c} e^{-x^2/2} dx”。

  • 极其简单的原因:因为中心极限定理指出,当 nn 很大时,ZnZ_n 本质上就是一个标准正态分布随机变量

  • 定义对应:根据我们在第四章中介绍的标准正态分布 CDF 的定义,任何标准正态分布变量小于等于 cc 的概率,就是标准正态分布的 PDF 在 -\inftycc 上的积分。

  • 结论:这个积分不是新推导出来的公式,它就是标准正态分布的累积概率 Φ(c)\Phi(c) 的微积分表达式!由于 ZnN(0,1)Z_n \approx N(0, 1),所以:

    P[Znc]Φ(c)=12πcex2/2dxP[Z_n \le c] \approx \Phi(c) = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{c} e^{-x^2/2} dx

3. CLT 标准解题步骤 (SOP)

在做题时,请严格按照以下三步执行(对应手写笔记中的红色 SOP 总结):

  1. 提取元数据:提取单个随机变量的期望 μ\mu 和方差 σ2\sigma^2,并明确样本量 nn

  2. 构建标准化变量 ZnZ_n

    Zn=SnnμσnZ_n = \frac{S_n - n\mu}{\sigma\sqrt{n}}

  3. 查表或写出标准正态形式:将要求的概率形式转换为 P[Znc]=Φ(c)P[Z_n \le c] = \Phi(c),查表求值。

4. 补充例题

题目:假设一口井每天的产水量 XiX_i 是独立的随机变量,期望为 μ=10\mu = 10 吨,方差为 σ2=4\sigma^2 = 4 2吨^2。求这口井 100 天的总产水量 S100S_{100} 超过 1030 吨的概率。 (已知 Φ(1.5)0.9332\Phi(1.5) \approx 0.9332

解答

  1. 提取元数据μ=10,σ=2,n=100\mu = 10, \sigma = 2, n = 100

    • E[S100]=nμ=100×10=1000E[S_{100}] = n\mu = 100 \times 10 = 1000 吨。
    • 标准差为 σn=2×100=20\sigma\sqrt{n} = 2 \times \sqrt{100} = 20
  2. 构建标准化变量

    P[S100>1030]=P[S100100020>1030100020]P[S_{100} > 1030] = P\left[ \frac{S_{100} - 1000}{20} > \frac{1030 - 1000}{20} \right]

    =P[Zn>1.5]= P[Z_n > 1.5]

  3. 求值

    P[Zn>1.5]=1Φ(1.5)10.9332=0.0668P[Z_n > 1.5] = 1 - \Phi(1.5) \approx 1 - 0.9332 = 0.0668

    所以,100 天的总产水量超过 1030 吨的概率仅约为 6.68%6.68\%

六、 经典综合应用:布丰投针问题 (Buffon’s Needle)

本节为教材中的重要综合案例,融合了联合均匀密度、三角函数积分等知识。

1. 问题描述

水平面上画有等距离为 ll 的平行线。将一根长度为 ll 的针随机投掷在平面上。求针与任意一条平行线相交的概率。

2. 建立数学模型

针在平面上的位置可以由两个独立的随机变量完全决定:

  1. 距离 YY:针的中点到最近平行线的垂直距离,显然 YU(0,l/2)Y \sim U(0, l/2)
  2. 夹角 Θ\Theta:针与垂直方向的夹角,显然 ΘU(π/2,π/2)\Theta \sim U(-\pi/2, \pi/2)

因为 YYΘ\Theta 相互独立,它们的联合 PDF 是它们各自均匀 PDF 的乘积:

fY,Θ(y,θ)=fY(y)fΘ(θ)=2l1π=2πl(0yl2,π2θπ2)f_{Y,\Theta}(y, \theta) = f_Y(y) \cdot f_\Theta(\theta) = \frac{2}{l} \cdot \frac{1}{\pi} = \frac{2}{\pi l} \quad \left(0 \le y \le \frac{l}{2}, -\frac{\pi}{2} \le \theta \le \frac{\pi}{2}\right)

3. 相交条件与积分计算

根据几何三角关系,针的一半投射在垂直方向的半长度为 l2cosΘ\frac{l}{2} \cos\Theta。 针与平行线相交的充要条件是:

Yl2cosΘY \le \frac{l}{2} \cos\Theta

设相交事件为 EE,其概率为在相交区域上的二重积分:

P[E]=π/2π/20l2cosθfY,Θ(y,θ)dydθP[E] = \int_{-\pi/2}^{\pi/2} \int_{0}^{\frac{l}{2}\cos\theta} f_{Y,\Theta}(y, \theta) dy d\theta

=π/2π/20l2cosθ2πldydθ= \int_{-\pi/2}^{\pi/2} \int_{0}^{\frac{l}{2}\cos\theta} \frac{2}{\pi l} dy d\theta

=π/2π/2(2πll2cosθ)dθ= \int_{-\pi/2}^{\pi/2} \left( \frac{2}{\pi l} \cdot \frac{l}{2}\cos\theta \right) d\theta

=1ππ/2π/2cosθdθ= \frac{1}{\pi} \int_{-\pi/2}^{\pi/2} \cos\theta d\theta

=1π[sinθ]π/2π/2=1π(1(1))=2π= \frac{1}{\pi} \left[ \sin\theta \right]_{-\pi/2}^{\pi/2} = \frac{1}{\pi} (1 - (-1)) = \frac{2}{\pi}

4. 奇妙的结论

投针相交概率 P[E]=2π\text{投针相交概率 } P[E] = \frac{2}{\pi}

利用大数定律,我们通过大量重复投针试验,统计相交的频率,便可以用 π2相交频率\pi \approx \frac{2}{\text{相交频率}} 来估算圆周率 π\pi 的值!这就是著名的蒙特卡洛模拟的鼻祖。


连续与多维概率分布巩固练习指南 (含全真题翻译与详析)

本指南针对你的手写笔记盲点,精选了上传教材《Chapter 4》与《Chapter 5》中的典型习题,所有题目均附带中文翻译极其详尽的微积分推导过程,帮助你通过实战消灭知识死角。

阶段一:连续随机变量基础与积分基本功

🎯 对应笔记知识点:

  • 连续均匀概率空间(区间长度占比)
  • 概率密度函数(PDF)的非负性与归一化(解答:PDF为什么能大于1
  • 期望 E[X]E[X]、方差 Var(X)\text{Var}(X) 与累积分布函数(CDF)的微积分转换关系

1. 【问题 32】连续概率变量、概率密度函数与分布函数Ⅰ (教材第 70-71 页)

📝 【原题翻译】

已知连续随机变量 XX 的概率密度函数 fX(x)f_{X}(x)(其中 cc 为常数,在指定区间外的取值均为 0),求以下各项:

  1. fX(x)=cx(2x6)f_{X}(x) = cx \quad (2 \le x \le 6) 时: (a) 求常数 cc 的值; (b) 计算期望 E(X)E(X); (c) 计算方差 V(X)V(X)
  2. fX(x)=cx(8x4)f_{X}(x) = \frac{c}{x} \quad (-8 \le x \le -4) 时: (a) 求常数 cc 的值; (b) 计算期望 E(X)E(X); (c) 计算方差 V(X)V(X)

✍️ 【详细解答过程】

第一小题解答:
  • (a) 求常数 cc: 根据概率密度函数的归一性(总积分为 1):

    fX(x)dx=1    26cxdx=1\int_{-\infty}^{\infty} f_X(x) dx = 1 \implies \int_{2}^{6} cx \, dx = 1

    计算定积分:

    [12cx2]26=1    12c(6222)=1    12c(364)=16c=1    c=116\left[ \frac{1}{2}cx^2 \right]_{2}^{6} = 1 \implies \frac{1}{2}c \left(6^2 - 2^2\right) = 1 \implies \frac{1}{2}c(36 - 4) = 16c = 1 \implies c = \frac{1}{16}

  • (b) 计算期望 E(X)E(X): 将 c=116c = \frac{1}{16} 代入 E(X)=xfX(x)dxE(X) = \int_{-\infty}^{\infty} x f_X(x) dx

    E(X)=26x(116x)dx=11626x2dxE(X) = \int_{2}^{6} x \cdot \left(\frac{1}{16}x\right) dx = \frac{1}{16} \int_{2}^{6} x^2 \, dx

    E(X)=116[x33]26=148(6323)=148(2168)=20848=133E(X) = \frac{1}{16} \left[ \frac{x^3}{3} \right]_{2}^{6} = \frac{1}{48} (6^3 - 2^3) = \frac{1}{48} (216 - 8) = \frac{208}{48} = \frac{13}{3}

  • (c) 计算方差 V(X)V(X): 首先计算二阶矩 E(X2)E(X^2)

    E(X2)=26x2(116x)dx=11626x3dxE(X^2) = \int_{2}^{6} x^2 \cdot \left(\frac{1}{16}x\right) dx = \frac{1}{16} \int_{2}^{6} x^3 \, dx

    E(X2)=116[x44]26=164(6424)=164(129616)=128064=20E(X^2) = \frac{1}{16} \left[ \frac{x^4}{4} \right]_{2}^{6} = \frac{1}{64} (6^4 - 2^4) = \frac{1}{64} (1296 - 16) = \frac{1280}{64} = 20

    利用方差公式 V(X)=E(X2)(E(X))2V(X) = E(X^2) - (E(X))^2

    V(X)=20(133)2=201699=1801699=119V(X) = 20 - \left(\frac{13}{3}\right)^2 = 20 - \frac{169}{9} = \frac{180 - 169}{9} = \frac{11}{9}

第二小题解答:
  • (a) 求常数 cc: 根据归一性:

    84cxdx=1    c[lnx]84=1\int_{-8}^{-4} \frac{c}{x} \, dx = 1 \implies c \Big[ \ln|x| \Big]_{-8}^{-4} = 1

    注意在负数区间求导时,对数项内部必须加绝对值:

    c(ln4ln8)=1    c(ln4ln8)=1    cln(48)=1c \left( \ln|-4| - \ln|-8| \right) = 1 \implies c (\ln 4 - \ln 8) = 1 \implies c \ln\left(\frac{4}{8}\right) = 1

    cln(12)=1    cln2=1    c=1ln2c \ln\left(\frac{1}{2}\right) = 1 \implies -c \ln 2 = 1 \implies c = -\frac{1}{\ln 2}

    (考点剖析:因为自变量 xx 在区间 [8,4][-8, -4] 上均为负数,为了使概率密度 fX(x)=cx0f_X(x) = \frac{c}{x} \ge 0 恒成立,常数 cc 必须为负数。求出的 c=1/ln2<0c = -1/\ln 2 < 0 完美符合非负性要求!)

  • (b) 计算期望 E(X)E(X)

    E(X)=84x(cx)dx=c841dx=c[x]84=c(4(8))=4cE(X) = \int_{-8}^{-4} x \cdot \left( \frac{c}{x} \right) dx = c \int_{-8}^{-4} 1 \, dx = c \Big[ x \Big]_{-8}^{-4} = c (-4 - (-8)) = 4c

    代入 cc 值:

    E(X)=4ln2E(X) = -\frac{4}{\ln 2}

  • (c) 计算方差 V(X)V(X): 计算二阶矩 E(X2)E(X^2)

    E(X2)=84x2(cx)dx=c84xdx=c[x22]84E(X^2) = \int_{-8}^{-4} x^2 \cdot \left( \frac{c}{x} \right) dx = c \int_{-8}^{-4} x \, dx = c \left[ \frac{x^2}{2} \right]_{-8}^{-4}

    E(X2)=c2((4)2(8)2)=c2(1664)=24cE(X^2) = \frac{c}{2} \left( (-4)^2 - (-8)^2 \right) = \frac{c}{2} (16 - 64) = -24c

    代入 c=1ln2c = -\frac{1}{\ln 2}

    E(X2)=24ln2E(X^2) = \frac{24}{\ln 2}

    利用方差公式:

    V(X)=E(X2)(E(X))2=24ln2(4ln2)2=24ln216(ln2)2=24ln216(ln2)2V(X) = E(X^2) - (E(X))^2 = \frac{24}{\ln 2} - \left( -\frac{4}{\ln 2} \right)^2 = \frac{24}{\ln 2} - \frac{16}{(\ln 2)^2} = \frac{24\ln 2 - 16}{(\ln 2)^2}

2. 【问题 37】连续概率变量、概率分布、均匀分布Ⅱ (教材第 80-81 页)

📝 【原题翻译】

设随机变量 XX 服从区间 [0,1][0, 1] 上的连续均匀分布。

  1. XX 的累积分布函数 FX(x)=P(Xx)F_X(x) = P(X \le x) 的分段表达式。
  2. 求出下列各项概率值: (a) 单点概率 P(X=0.5)P(X = 0.5); (b) 设 X,YX, Y 是独立同一分布的(i.i.d.)且都服从 [0,1][0, 1] 上的均匀分布,计算并集概率 P(X0.5Y0.5)P(X \le 0.5 \cup Y \le 0.5); (c) 新随机变量的概率 P(X2x)P(X^2 \le x)

✍️ 【详细解答过程】

第一小题解答:

由于 XU(0,1)X \sim U(0,1),其 PDF 为 fX(x)=1(0x1)f_X(x) = 1 \quad (0 \le x \le 1)。 累积分布函数 FX(x)=xfX(z)dzF_X(x) = \int_{-\infty}^{x} f_X(z) dz 采用分段积分:

  • x<0x < 0 时:FX(x)=0F_X(x) = 0

  • 0x10 \le x \le 1 时:FX(x)=0x1dz=xF_X(x) = \int_{0}^{x} 1 \, dz = x

  • x>1x > 1 时:FX(x)=1F_X(x) = 1 因此:

    FX(x)={0,x<0x,0x11,x>1F_X(x) = \begin{cases} 0, & x < 0 \\ x, & 0 \le x \le 1 \\ 1, & x > 1 \end{cases}

第二小题解答:
  • (a) 单点概率 P(X=0.5)P(X = 0.5): 对于任意连续型随机变量,单点的测度(积分长度)为 0:

    P(X=0.5)=0.50.5fX(x)dx=0P(X = 0.5) = \int_{0.5}^{0.5} f_X(x) dx = 0

  • (b) 并集概率 P(X0.5Y0.5)P(X \le 0.5 \cup Y \le 0.5): 由于 X,YX, Y 独立,利用互补事件的概率计算(减法原理):

    P(X0.5Y0.5)=1P(X>0.5Y>0.5)P(X \le 0.5 \cup Y \le 0.5) = 1 - P(X > 0.5 \cap Y > 0.5)

    由于独立性,交集概率等于概率的乘积:

    =1P(X>0.5)P(Y>0.5)= 1 - P(X > 0.5) \cdot P(Y > 0.5)

    计算单项概率:P(X>0.5)=1FX(0.5)=10.5=0.5P(X > 0.5) = 1 - F_X(0.5) = 1 - 0.5 = 0.5

    =1(0.5×0.5)=10.25=0.75= 1 - (0.5 \times 0.5) = 1 - 0.25 = 0.75

  • (c) 计算 P(X2x)P(X^2 \le x): 设 W=X2W = X^2,由于 XX 只能取正数,我们可以将不等式两边开根号: 当 x<0x < 0 时:由于 X20X^2 \ge 0 恒成立,概率 P(X2x)=0P(X^2 \le x) = 0。 当 0x10 \le x \le 1 时:

    P(X2x)=P(Xx)=FX(x)=xP(X^2 \le x) = P(X \le \sqrt{x}) = F_X(\sqrt{x}) = \sqrt{x}

    x>1x > 1 时:由于 X[0,1]X \in [0, 1]X2X^2 必然小于 xx,故概率为 1。 综上,新随机变量的分布函数为:

    P(X2x)={0,x<0x,0x11,x>1P(X^2 \le x) = \begin{cases} 0, & x < 0 \\ \sqrt{x}, & 0 \le x \le 1 \\ 1, & x > 1 \end{cases}

阶段二:两大明星分布深挖(指数分布与正态分布)

🎯 对应笔记知识点:

  • 指数分布 Exp(λ)\text{Exp}(\lambda) 的无记忆性推导及其物理直观
  • 正态分布 N(μ,σ2)N(\mu, \sigma^2) 的归一性证明、标准化过程及矩母函数(MGF)推导

1. 【问题 38】指数分布与无记忆性 (教材第 82-83 页)

📝 【原题翻译】

  1. 设随机变量 XX 服从参数为 λ>0\lambda > 0 的指数分布 Exp(λ)\text{Exp}(\lambda)。 (a) 求期望 E(X)E(X); (b) 求方差 V(X)V(X); (c) 求解新随机变量 Y=X2Y = X^2 的概率密度函数 fY(y)f_Y(y)
  2. 探讨指数分布的无记忆性(Memoryless Property): (a) 设 s0s \ge 0,求尾部概率 P(X>s)P(X > s); (b) 设 s,t0s, t \ge 0,求条件概率 P(X>s+tX>s)P(X > s+t \mid X > s); (c) 证明等式 P(X>s+tX>s)=P(X>t)P(X > s+t \mid X > s) = P(X > t) 恒成立; (d) 某物理现象平均每秒发生 1/301/30 次(即发生间隔时间服从指数分布)。若该现象已经持续 60 秒未发生,求它还要再等待至少 90 秒才发生的概率。

✍️ 【详细解答过程】

第一小题解答:
  • (a) 期望 E(X)E(X) 与 (b) 方差 V(X)V(X) 的推导: 此处可采用伽马函数(Gamma Function)法进行极速证明,其定义为:

    Γ(n)=0un1eudu=(n1)!\Gamma(n) = \int_{0}^{\infty} u^{n-1} e^{-u} du = (n-1)!

    在计算 E[Xk]=0xkλeλxdxE[X^k] = \int_{0}^{\infty} x^k \lambda e^{-\lambda x} dx 时,令 u=λx    dx=1λduu = \lambda x \implies dx = \frac{1}{\lambda} du

    E[Xk]=0(uλ)kλeu1λdu=1λk0ukeudu=Γ(k+1)λk=k!λkE[X^k] = \int_{0}^{\infty} \left(\frac{u}{\lambda}\right)^k \lambda e^{-u} \frac{1}{\lambda} du = \frac{1}{\lambda^k} \int_{0}^{\infty} u^k e^{-u} du = \frac{\Gamma(k+1)}{\lambda^k} = \frac{k!}{\lambda^k}

    利用该结论,可以瞬间求出:

    • k=1k=1 时:E(X)=1!λ1=1λE(X) = \frac{1!}{\lambda^1} = \frac{1}{\lambda}
    • k=2k=2 时:E(X2)=2!λ2=2λ2E(X^2) = \frac{2!}{\lambda^2} = \frac{2}{\lambda^2}
    • 方差:V(X)=E(X2)(E(X))2=2λ21λ2=1λ2V(X) = E(X^2) - (E(X))^2 = \frac{2}{\lambda^2} - \frac{1}{\lambda^2} = \frac{1}{\lambda^2}
  • (c) 求 Y=X2Y = X^2 的密度函数 fY(y)f_Y(y): 先求其分布函数 FY(y)F_Y(y)。因为 X0X \ge 0,故 Y0Y \ge 0。 当 y>0y > 0 时:

    FY(y)=P(Yy)=P(X2y)=P(Xy)=0yλeλxdx=1eλyF_Y(y) = P(Y \le y) = P(X^2 \le y) = P(X \le \sqrt{y}) = \int_{0}^{\sqrt{y}} \lambda e^{-\lambda x} dx = 1 - e^{-\lambda \sqrt{y}}

    FY(y)F_Y(y) 进行变上限复合函数求导,即可得 PDF fY(y)f_Y(y)

    fY(y)=ddy(1eλy)=eλy(λ12y)=λ2yeλy(y>0)f_Y(y) = \frac{d}{dy} \left( 1 - e^{-\lambda \sqrt{y}} \right) = -e^{-\lambda \sqrt{y}} \cdot \left(-\lambda \cdot \frac{1}{2\sqrt{y}}\right) = \frac{\lambda}{2\sqrt{y}} e^{-\lambda\sqrt{y}} \quad (y > 0)

第二小题解答:
  • (a) 求尾部概率 P(X>s)P(X > s)

    P(X>s)=sλeλxdx=[eλx]s=0(eλs)=eλsP(X > s) = \int_{s}^{\infty} \lambda e^{-\lambda x} dx = \Big[ -e^{-\lambda x} \Big]_{s}^{\infty} = 0 - (-e^{-\lambda s}) = e^{-\lambda s}

  • (b) 与 (c) 证明无记忆性: 根据条件概率定义:

    P(X>s+tX>s)=P(X>s+tX>s)P(X>s)P(X > s+t \mid X > s) = \frac{P(X > s+t \cap X > s)}{P(X > s)}

    因为 s+t>ss+t > s,所以当 X>s+tX > s+t 时必有 X>sX > s。交集事件化简为:

    =P(X>s+t)P(X>s)=eλ(s+t)eλs=eλseλteλs=eλt= \frac{P(X > s+t)}{P(X > s)} = \frac{e^{-\lambda(s+t)}}{e^{-\lambda s}} = \frac{e^{-\lambda s} \cdot e^{-\lambda t}}{e^{-\lambda s}} = e^{-\lambda t}

    P(X>t)=eλtP(X > t) = e^{-\lambda t},因此:

    P(X>s+tX>s)=P(X>t)(得证)P(X > s+t \mid X > s) = P(X > t) \quad \text{(得证)}

  • (d) 实际应用计算: 由题设,事件发生率 λ=130\lambda = \frac{1}{30}。设等待时间为 XExp(1/30)X \sim \text{Exp}(1/30)。 题目欲求:在已经等待了 60 秒的基础上,总共要等待 150 秒(即再等 90 秒)以上的概率:

    P(X>60+90X>60)P(X > 60 + 90 \mid X > 60)

    利用无记忆性,该概率与从 0 秒开始等待 90 秒以上的概率完全一致:

    =P(X>90)=eλ90=e130×90=e30.0498(4.98%)= P(X > 90) = e^{-\lambda \cdot 90} = e^{-\frac{1}{30} \times 90} = e^{-3} \approx 0.0498 \quad (4.98\%)

2. 【问题 39】正态分布、矩母函数 (教材第 84-85 页)

📝 【原题翻译】

已知随机变量 XX 服从正态分布 N(μ,σ2)N(\mu, \sigma^2)

  1. 使用 XX 的概率密度函数,证明归一性: fX(x)dx=1\int_{-\infty}^{\infty} f_X(x) dx = 1
  2. 证明当引入标准化变量 Y=XμσY = \frac{X-\mu}{\sigma} 时, YY 服从标准正态分布 N(0,1)N(0, 1)
  3. 严格计算并证明:期望 E(X)=μE(X) = \mu,方差 V(X)=σ2V(X) = \sigma^2
  4. 求解 XX 的积率母函数(矩母函数) MX(θ)=E(eθX)M_X(\theta) = E(e^{\theta X})

✍️ 【详细解答过程】

第一小题解答:

欲证:

12πσ2e(xμ)22σ2dx=1\int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx = 1

进行变量替换。令 u=xμσ    dx=σduu = \frac{x-\mu}{\sigma} \implies dx = \sigma \, du。原积分化为:

12πσeu22σdu=12πeu22du\int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{u^2}{2}} \sigma \, du = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} e^{-\frac{u^2}{2}} du

现在证明高斯积分 I=eu2/2du=2πI = \int_{-\infty}^{\infty} e^{-u^2/2} du = \sqrt{2\pi}。采用二重积分极坐标变换法:

I2=(eu2/2du)(ev2/2dv)=eu2+v22dudvI^2 = \left( \int_{-\infty}^{\infty} e^{-u^2/2} du \right) \left( \int_{-\infty}^{\infty} e^{-v^2/2} dv \right) = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} e^{-\frac{u^2+v^2}{2}} du \, dv

u=rcosϕ,v=rsinϕu = r \cos\phi, v = r \sin\phi,雅可比行列式 dudv=rdrdϕdu \, dv = r \, dr \, d\phi。积分限变为 r[0,),ϕ[0,2π]r \in [0, \infty), \phi \in [0, 2\pi]

I2=02πdϕ0rer22dr=2π[er22]0=2π(0(1))=2πI^2 = \int_{0}^{2\pi} d\phi \int_{0}^{\infty} r e^{-\frac{r^2}{2}} dr = 2\pi \Big[ -e^{-\frac{r^2}{2}} \Big]_{0}^{\infty} = 2\pi (0 - (-1)) = 2\pi

因为积分项大于 0,故 I=2πI = \sqrt{2\pi}。 代入原式:

12πI=12π2π=1(得证)\frac{1}{\sqrt{2\pi}} \cdot I = \frac{1}{\sqrt{2\pi}} \cdot \sqrt{2\pi} = 1 \quad \text{(得证)}

第二小题解答:

求标准化变量 Y=XμσY = \frac{X-\mu}{\sigma} 的累积分布函数 FY(y)F_Y(y)

FY(y)=P(Yy)=P(Xμσy)=P(Xσy+μ)=σy+μ12πσe(xμ)22σ2dxF_Y(y) = P(Y \le y) = P\left(\frac{X-\mu}{\sigma} \le y\right) = P(X \le \sigma y + \mu) = \int_{-\infty}^{\sigma y + \mu} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx

t=xμσ    dx=σdtt = \frac{x-\mu}{\sigma} \implies dx = \sigma \, dt,当 x=σy+μx = \sigma y + \mu 时上限变为 yy

FY(y)=y12πσet22σdt=y12πet22dtF_Y(y) = \int_{-\infty}^{y} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{t^2}{2}} \sigma \, dt = \int_{-\infty}^{y} \frac{1}{\sqrt{2\pi}} e^{-\frac{t^2}{2}} dt

对变上限积分求导可得 YY 的密度函数:

fY(y)=dFY(y)dy=12πey22f_Y(y) = \frac{dF_Y(y)}{dy} = \frac{1}{\sqrt{2\pi}} e^{-\frac{y^2}{2}}

该函数正是标准正态分布 N(0,1)N(0, 1) 的 PDF。

第三小题解答:
  • 计算 E(Y)E(Y)

    E(Y)=12πyey22dy=0(被积函数为奇函数,在对称区间上积分为0)E(Y) = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} y e^{-\frac{y^2}{2}} dy = 0 \quad \text{(被积函数为奇函数,在对称区间上积分为0)}

  • 计算 V(Y)V(Y)

    E(Y2)=12πy2ey22dyE(Y^2) = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} y^2 e^{-\frac{y^2}{2}} dy

    采用分部积分法,令 u=y    du=dyu = y \implies du = dydv=yey2/2dy    v=ey2/2dv = y e^{-y^2/2} dy \implies v = -e^{-y^2/2}

    E(Y2)=12π([yey2/2]+ey2/2dy)E(Y^2) = \frac{1}{\sqrt{2\pi}} \left( \Big[ -y e^{-y^2/2} \Big]_{-\infty}^{\infty} + \int_{-\infty}^{\infty} e^{-y^2/2} dy \right)

    E(Y2)=12π(0+2π)=1E(Y^2) = \frac{1}{\sqrt{2\pi}} \left( 0 + \sqrt{2\pi} \right) = 1

    V(Y)=E(Y2)(E(Y))2=10=1V(Y) = E(Y^2) - (E(Y))^2 = 1 - 0 = 1

  • 利用线性性质求 E(X)E(X) V(X)V(X): 由 X=σY+μX = \sigma Y + \mu 可得:

    E(X)=E(σY+μ)=σE(Y)+μ=σ0+μ=μE(X) = E(\sigma Y + \mu) = \sigma E(Y) + \mu = \sigma \cdot 0 + \mu = \mu

    V(X)=V(σY+μ)=σ2V(Y)=σ21=σ2(得证)V(X) = V(\sigma Y + \mu) = \sigma^2 V(Y) = \sigma^2 \cdot 1 = \sigma^2 \quad \text{(得证)}

第四小题解答:

根据矩母函数定义:

MX(θ)=E(eθX)=eθx12πσe(xμ)22σ2dxM_X(\theta) = E(e^{\theta X}) = \int_{-\infty}^{\infty} e^{\theta x} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx

将指数上的多项式合并并进行配方

θx(xμ)22σ2=2σ2θx(x22μx+μ2)2σ2=x22(μ+σ2θ)x+μ22σ2\theta x - \frac{(x-\mu)^2}{2\sigma^2} = \frac{2\sigma^2 \theta x - (x^2 - 2\mu x + \mu^2)}{2\sigma^2} = -\frac{x^2 - 2(\mu + \sigma^2\theta)x + \mu^2}{2\sigma^2}

=(x(μ+σ2θ))2(μ+σ2θ)2+μ22σ2=(x(μ+σ2θ))22σ2+μθ+12σ2θ2= -\frac{\left( x - (\mu + \sigma^2\theta) \right)^2 - (\mu + \sigma^2\theta)^2 + \mu^2}{2\sigma^2} = -\frac{\left( x - (\mu + \sigma^2\theta) \right)^2}{2\sigma^2} + \mu\theta + \frac{1}{2}\sigma^2\theta^2

代回原积分:

MX(θ)=eμθ+12σ2θ212πσe(x(μ+σ2θ))22σ2dxM_X(\theta) = e^{\mu\theta + \frac{1}{2}\sigma^2\theta^2} \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{\left( x - (\mu + \sigma^2\theta) \right)^2}{2\sigma^2}} dx

后面积分项是以 μ+σ2θ\mu + \sigma^2\theta 为均值,σ2\sigma^2 为方差的正态分布的完整 PDF 积分,由归一性其值为 1。 因此:

MX(θ)=eμθ+12σ2θ2M_X(\theta) = e^{\mu\theta + \frac{1}{2}\sigma^2\theta^2}

阶段三:多维连续分布(联合密度与条件期望)

🎯 对应笔记知识点:

  • 联合 PDF 的重积分边界确定(避免区域交叉出错)
  • 边缘概率密度计算(积掉不要的自变量)
  • 条件期望 E[YX]E[Y \mid X] 的计算(深入理解条件期望作为随机变量的本质)

1. 【问题 50】多次元连续概率分布 (教材第 110-111 页)

📝 【原题翻译】

以下为 X,YX, Y 的联合概率密度函数 f(X,Y)(x,y)f_{(X,Y)}(x, y),在指定范围外时其值均为 0。求解以下各项:

  1. 若联合密度为 f(X,Y)(x,y)=c(0x1,0y1)f_{(X,Y)}(x, y) = c \quad (0 \le x \le 1, \,\, 0 \le y \le 1): (a) 求常数 cc; (b) 计算 P(X+Y<1)P(X+Y < 1); (c) 计算协方差 Cov(X,Y)Cov(X,Y); (d) 计算 P(2X+3Y1)P(2X+3Y \le 1)
  2. 若联合密度为 f(X,Y)(x,y)=c(0yx1)f_{(X,Y)}(x, y) = c \quad (0 \le y \le x \le 1)(区域为三角形区域): (a) 求常数 cc; (b) 计算 P(X+Y<1)P(X+Y < 1); (c) 求边缘密度函数 fX(x)f_X(x)fY(y)f_Y(y); (d) 计算协方差 Cov(X,Y)Cov(X,Y); (e) 计算 P(Y+2X1)P(Y + 2X \le 1)

✍️ 【详细解答过程】

第一小题解答:
  • (a) 求常数 cc

    0101cdxdy=c=1    c=1\int_{0}^{1} \int_{0}^{1} c \, dx \, dy = c = 1 \implies c = 1

  • (b) 计算 P(X+Y<1)P(X+Y < 1): 积分区域为 y<1xy < 1-x

    P(X+Y<1)=0101x1dydx=01(1x)dx=[xx22]01=12P(X+Y < 1) = \int_{0}^{1} \int_{0}^{1-x} 1 \, dy \, dx = \int_{0}^{1} (1-x) dx = \left[ x - \frac{x^2}{2} \right]_{0}^{1} = \frac{1}{2}

  • (c) 计算协方差 Cov(X,Y)Cov(X,Y): 由于联合分布在正方形上常数化,易知其独立,故 Cov(X,Y)=0Cov(X,Y) = 0。严格计算如下:

    E(X)=0101xdxdy=12,E(Y)=12E(X) = \int_{0}^{1} \int_{0}^{1} x \, dx \, dy = \frac{1}{2}, \quad E(Y) = \frac{1}{2}

    E(XY)=0101xydxdy=(01xdx)(01ydy)=12×12=14E(XY) = \int_{0}^{1} \int_{0}^{1} xy \, dx \, dy = \left( \int_{0}^{1} x dx \right) \left( \int_{0}^{1} y dy \right) = \frac{1}{2} \times \frac{1}{2} = \frac{1}{4}

    Cov(X,Y)=E(XY)E(X)E(Y)=1414=0Cov(X,Y) = E(XY) - E(X)E(Y) = \frac{1}{4} - \frac{1}{4} = 0

  • (d) 计算 P(2X+3Y1)P(2X+3Y \le 1): 积分边界:当给定 xx 时, yy 从 0 积到 12x3\frac{1-2x}{3}。由于 y0y \ge 0,上限必须满足 12x30    x12\frac{1-2x}{3} \ge 0 \implies x \le \frac{1}{2}

    P(2X+3Y1)=01/2012x31dydx=01/212x3dxP(2X+3Y \le 1) = \int_{0}^{1/2} \int_{0}^{\frac{1-2x}{3}} 1 \, dy \, dx = \int_{0}^{1/2} \frac{1-2x}{3} \, dx

    =13[xx2]01/2=13(1214)=112= \frac{1}{3} \left[ x - x^2 \right]_{0}^{1/2} = \frac{1}{3} \left( \frac{1}{2} - \frac{1}{4} \right) = \frac{1}{12}

第二小题解答:
  • (a) 求常数 cc: 区域为由直线 y=0,x=1,y=xy=0, x=1, y=x 围成的直角三角形,面积为 1/21/2

    010xcdydx=c01xdx=c2=1    c=2\int_{0}^{1} \int_{0}^{x} c \, dy \, dx = c \int_{0}^{1} x \, dx = \frac{c}{2} = 1 \implies c = 2

  • (b) 计算 P(X+Y<1)P(X+Y < 1): 边界为 yxy \le xy1xy \le 1-x。交点在 x=0.5,y=0.5x = 0.5, y = 0.5。 采用先积 xx 的方法比较简单:给写 yyxx 的取值从 yy 积到 1y1-y

    P(X+Y<1)=01/2y1y2dxdy=01/22(12y)dy=2[yy2]01/2=2(1214)=12P(X+Y < 1) = \int_{0}^{1/2} \int_{y}^{1-y} 2 \, dx \, dy = \int_{0}^{1/2} 2(1-2y) dy = 2 \left[ y - y^2 \right]_{0}^{1/2} = 2 \left(\frac{1}{2} - \frac{1}{4}\right) = \frac{1}{2}

  • (c) 求边缘密度函数 fX(x)f_X(x) fY(y)f_Y(y)

    • XX 的边缘密度(积掉 YYyy 取值范围为 [0,x][0, x]):

      fX(x)=0x2dy=2x(0x1)f_X(x) = \int_{0}^{x} 2 \, dy = 2x \quad (0 \le x \le 1)

    • YY 的边缘密度(积掉 XXxx 取值范围为 [y,1][y, 1]):

      fY(y)=y12dx=2(1y)(0y1)f_Y(y) = \int_{y}^{1} 2 \, dx = 2(1-y) \quad (0 \le y \le 1)

  • (d) 计算协方差 Cov(X,Y)Cov(X,Y)

    E(X)=01x(2x)dx=[2x33]01=23E(X) = \int_{0}^{1} x \cdot (2x) \, dx = \left[ \frac{2x^3}{3} \right]_{0}^{1} = \frac{2}{3}

    E(Y)=01y2(1y)dy=2[y22y33]01=2(1213)=13E(Y) = \int_{0}^{1} y \cdot 2(1-y) \, dy = 2 \left[ \frac{y^2}{2} - \frac{y^3}{3} \right]_{0}^{1} = 2 \left( \frac{1}{2} - \frac{1}{3} \right) = \frac{1}{3}

    E(XY)=010x2xydydx=012x[y22]0xdx=01x3dx=14E(XY) = \int_{0}^{1} \int_{0}^{x} 2xy \, dy \, dx = \int_{0}^{1} 2x \left[ \frac{y^2}{2} \right]_{0}^{x} dx = \int_{0}^{1} x^3 \, dx = \frac{1}{4}

    Cov(X,Y)=E(XY)E(X)E(Y)=14(23×13)=1429=9836=136Cov(X,Y) = E(XY) - E(X)E(Y) = \frac{1}{4} - \left(\frac{2}{3} \times \frac{1}{3}\right) = \frac{1}{4} - \frac{2}{9} = \frac{9 - 8}{36} = \frac{1}{36}

  • (e) 计算 P(Y+2X1)P(Y + 2X \le 1): 积分区域同时受到 yxy \le xy12xy \le 1 - 2x 限制。 找出两条边界线的交点: x=12x    x=1/3,y=1/3x = 1-2x \implies x = 1/3, y = 1/3。 利用对 xx 积分:给定 y[0,1/3]y \in [0, 1/3]xx 的范围为 [y,1y2][y, \frac{1-y}{2}]

    P(Y+2X1)=01/3y1y22dxdy=01/32(1y2y)dy=01/3(13y)dyP(Y + 2X \le 1) = \int_{0}^{1/3} \int_{y}^{\frac{1-y}{2}} 2 \, dx \, dy = \int_{0}^{1/3} 2\left(\frac{1-y}{2} - y\right) dy = \int_{0}^{1/3} (1 - 3y) \, dy

    =[y3y22]01/3=1332×19=1316=16= \left[ y - \frac{3y^2}{2} \right]_{0}^{1/3} = \frac{1}{3} - \frac{3}{2} \times \frac{1}{9} = \frac{1}{3} - \frac{1}{6} = \frac{1}{6}

2. 【问题 60】连续条件期望核心演练 (教材第 130-131 页)

📝 【原题翻译】

已知随机变量 X,YX, Y 的联合概率密度函数为:

f(X,Y)(x,y)=51e2xe3y(0<5x<y<)f_{(X,Y)}(x, y) = 51 e^{-2x} e^{-3y} \quad (0 < 5x < y < \infty)

求以下各项:

  1. 证明该分布常数 c=51c = 51 的合理性。
  2. XX 的边缘概率密度 fX(x)f_X(x)
  3. 求已知 X=xX=x 的条件下, YY 的条件概率密度 fYX(yx)f_{Y \mid X}(y \mid x)
  4. 计算条件期望 E[YX=x]E[Y \mid X = x]

✍️ 【详细解答过程】

  • 1. 验证常数 51 的合理性

    05xce2xe3ydydx=1\int_{0}^{\infty} \int_{5x}^{\infty} c e^{-2x} e^{-3y} \, dy \, dx = 1

    先算内层对 yy 的积分:

    5xe3ydy=[13e3y]5x=13e15x\int_{5x}^{\infty} e^{-3y} dy = \left[ -\frac{1}{3} e^{-3y} \right]_{5x}^{\infty} = \frac{1}{3} e^{-15x}

    代回外层对 xx 积分:

    c0e2x(13e15x)dx=c30e17xdx=c3[117e17x]0=c51=1    c=51c \int_{0}^{\infty} e^{-2x} \cdot \left( \frac{1}{3} e^{-15x} \right) dx = \frac{c}{3} \int_{0}^{\infty} e^{-17x} dx = \frac{c}{3} \left[ -\frac{1}{17} e^{-17x} \right]_{0}^{\infty} = \frac{c}{51} = 1 \implies c = 51

  • 2. 求 XX 的边缘概率密度 fX(x)f_X(x): 给定 x0x \ge 0,将 YY 从下限 5x5x\infty 进行积分积掉:

    fX(x)=5x51e2xe3ydy=51e2x[13e3y]5x=17e17x(x0)f_X(x) = \int_{5x}^{\infty} 51 e^{-2x} e^{-3y} \, dy = 51 e^{-2x} \left[ -\frac{1}{3} e^{-3y} \right]_{5x}^{\infty} = 17 e^{-17x} \quad (x \ge 0)

    (可以看出 XX 服从参数为 17 的指数分布 Exp(17)\text{Exp}(17)!)

  • 3. 求条件概率密度 fYX(yx)f_{Y \mid X}(y \mid x): 根据定义:

    fYX(yx)=f(X,Y)(x,y)fX(x)=51e2xe3y17e17x=3e17x2x3y=3e3(y5x)(y>5x)f_{Y \mid X}(y \mid x) = \frac{f_{(X,Y)}(x, y)}{f_X(x)} = \frac{51 e^{-2x} e^{-3y}}{17 e^{-17x}} = 3 e^{17x - 2x - 3y} = 3 e^{-3(y - 5x)} \quad (y > 5x)

  • 4. 计算条件期望 E[YX=x]E[Y \mid X = x]

    E[YX=x]=5xyfYX(yx)dy=5xy3e3(y5x)dyE[Y \mid X = x] = \int_{5x}^{\infty} y \cdot f_{Y \mid X}(y \mid x) \, dy = \int_{5x}^{\infty} y \cdot 3 e^{-3(y - 5x)} \, dy

    我们引入换元法让积分极简化。令 u=y5x    y=u+5xu = y - 5x \implies y = u + 5xdy=dudy = du,当 y=5xy = 5xu=0u = 0

    E[YX=x]=0(u+5x)3e3udu=0u3e3udu+5x03e3uduE[Y \mid X = x] = \int_{0}^{\infty} (u + 5x) \cdot 3 e^{-3u} \, du = \int_{0}^{\infty} u \cdot 3 e^{-3u} \, du + 5x \int_{0}^{\infty} 3 e^{-3u} \, du

    注意观察这两项积分:

    • 第一项 0u3e3udu\int_{0}^{\infty} u \cdot 3 e^{-3u} \, du 正是指数分布 Exp(3)\text{Exp}(3) 的期望,其值为 13\frac{1}{3}

    • 第二项 03e3udu\int_{0}^{\infty} 3 e^{-3u} \, du 是指数分布 Exp(3)\text{Exp}(3) 的密度函数在定义域上的全积分,其值必为 1。 因此,无需繁琐的分部积分,即可写出:

      E[YX=x]=13+5x1=5x+13E[Y \mid X = x] = \frac{1}{3} + 5x \cdot 1 = 5x + \frac{1}{3}

      (考点剖析:最终条件期望 E[YX]=5X+1/3E[Y|X] = 5X + 1/3。它说明条件期望在求出具体数值后,仍然是一个包含自变量 XX 的随机变量,这也彻底解决了你手写笔记中关于这一概念的疑惑!)

阶段四:极限与大数定理(CLT 与连续近似)

🎯 对应笔记知识点:

  • 中心极限定理(CLT)通过积率母函数趋向于标准高斯分布的严格证明
  • 连续性修正(半整数修正)的引入依据与计算

1. 【问题 48】中心极限定理与正态近似 (教材第 102-103 页)

📝 【原题翻译】

  1. 设随机变量序列 X1,X2,X_1, X_2, \dots 独立同一分布,且其均值为 μ\mu,方差为 σ2\sigma^2(均有限),在其原点近邻存在矩母函数 MX(θ)M_X(\theta)。 令 Sn=i=1nXiS_n = \sum_{i=1}^{n} X_i,构建标准化变量:

    Zn=SnnμσnZ_n = \frac{S_n - n\mu}{\sigma \sqrt{n}}

    证明:当 nn \to \infty 时, ZnZ_n 的矩母函数 MZn(θ)M_{Z_n}(\theta) 收敛到标准正态分布的矩母函数 eθ2/2e^{\theta^2/2}

  2. 某工厂生产的产品的非合格率(不良率)为 0.1。现随机抽取 400 个产品,求其中不良品数量大于或等于 50 个的概率。请使用中心极限定理,分别在半整数补正(连续修正)**和**不进行修正的两种情况下求出概率估计。 (已知: Φ(1.67)0.9525,Φ(1.58)0.9429\Phi(1.67) \approx 0.9525, \,\, \Phi(1.58) \approx 0.9429)

✍️ 【详细解答过程】

第一小题解答(CLT 的严格证明):

我们令标准化单项变量 Yi=XiμσY_i = \frac{X_i - \mu}{\sigma}。显然, E[Yi]=0E[Y_i] = 0,且 V[Yi]=E[Yi2]=1V[Y_i] = E[Y_i^2] = 1。 我们将 YiY_i 的矩母函数 MY(θ)M_Y(\theta) 在原点附近展开成泰勒级数(Taylor Series):

MY(θ)=E[eθYi]=E[1+θYi+θ2Yi22!+o(θ2)]M_Y(\theta) = E\left[ e^{\theta Y_i} \right] = E\left[ 1 + \theta Y_i + \frac{\theta^2 Y_i^2}{2!} + o(\theta^2) \right]

根据期望的线性性质:

MY(θ)=1+θE[Yi]+θ22E[Yi2]+o(θ2)=1+0+θ22+o(θ2)M_Y(\theta) = 1 + \theta E[Y_i] + \frac{\theta^2}{2} E[Y_i^2] + o(\theta^2) = 1 + 0 + \frac{\theta^2}{2} + o(\theta^2)

现在,我们将标准化之和 ZnZ_n 写为 YiY_i 的加权和:

Zn=Snnμσn=i=1nXiμσn=i=1nYinZ_n = \frac{S_n - n\mu}{\sigma \sqrt{n}} = \sum_{i=1}^{n} \frac{X_i - \mu}{\sigma\sqrt{n}} = \sum_{i=1}^{n} \frac{Y_i}{\sqrt{n}}

利用独立性,多个独立随机变量和的矩母函数等于其各自矩母函数的乘积:

MZn(θ)=E[eθi=1nYin]=i=1nMY(θn)=[MY(θn)]nM_{Z_n}(\theta) = E\left[ e^{\theta \sum_{i=1}^n \frac{Y_i}{\sqrt{n}}} \right] = \prod_{i=1}^{n} M_Y\left( \frac{\theta}{\sqrt{n}} \right) = \left[ M_Y\left( \frac{\theta}{\sqrt{n}} \right) \right]^n

将泰勒展开式代入:

MZn(θ)=[1+(θn)22+o(θ2n)]n=[1+θ22n+o(θ2n)]nM_{Z_n}(\theta) = \left[ 1 + \frac{\left( \frac{\theta}{\sqrt{n}} \right)^2}{2} + o\left(\frac{\theta^2}{n}\right) \right]^n = \left[ 1 + \frac{\theta^2}{2n} + o\left(\frac{\theta^2}{n}\right) \right]^n

当我们令 nn \to \infty 时,利用极限重要公式 limn(1+xn)n=ex\lim_{n \to \infty} (1 + \frac{x}{n})^n = e^x

limnMZn(θ)=eθ22(得证)\lim_{n \to \infty} M_{Z_n}(\theta) = e^{\frac{\theta^2}{2}} \quad \text{(得证)}

(标准正态分布的矩母函数唯一确定了标准正态分布,因此中心极限定理得证。)

第二小题解答:

每个产品是否为不良品服从伯努利试验,设不良品总数为 S400B(400,0.1)S_{400} \sim B(400, 0.1)(二项分布)。

  • 提取元数据

    • 单项期望 μ=p=0.1\mu = p = 0.1,单项方差 σ2=p(1p)=0.09\sigma^2 = p(1-p) = 0.09
    • 样本量 n=400n = 400
    • 总期望 E[S400]=nμ=400×0.1=40E[S_{400}] = n\mu = 400 \times 0.1 = 40
    • 总标准差 σtotal=nσ2=400×0.09=36=6\sigma_{total} = \sqrt{n\sigma^2} = \sqrt{400 \times 0.09} = \sqrt{36} = 6
  • (a) 情况一:不进行半整数修正: 直接将离散边界值 50 带入连续化进行标准化:

    P(S40050)=P(S40040650406)P(Z1.67)P(S_{400} \ge 50) = P\left( \frac{S_{400} - 40}{6} \ge \frac{50 - 40}{6} \right) \approx P(Z \ge 1.67)

    由于对称性,利用标准正态 CDF Φ\Phi 计算:

    P(Z1.67)=1Φ(1.67)10.9525=0.0475(4.75%)P(Z \ge 1.67) = 1 - \Phi(1.67) \approx 1 - 0.9525 = 0.0475 \quad (4.75\%)

  • (b) 情况二:进行半整数修正(连续性修正): 由于二项分布是离散的,柱状图中的“50”这一项占用了区间 [49.5,50.5][49.5, 50.5] 的宽度。 为了在连续正态近似中完整保留“大于等于 50”这一离散整型事件,必须将连续边界左移到 49.5 处:

    P(S40050)P(Scontinuous49.5)P(S_{400} \ge 50) \approx P(S_{continuous} \ge 49.5)

    对其进行标准化:

    =P(Scontinuous40649.5406)=P(Z9.56)P(Z1.58)= P\left( \frac{S_{continuous} - 40}{6} \ge \frac{49.5 - 40}{6} \right) = P\left( Z \ge \frac{9.5}{6} \right) \approx P(Z \ge 1.58)

    利用正态分布表:

    P(Z1.58)=1Φ(1.58)10.9429=0.0571(5.71%)P(Z \ge 1.58) = 1 - \Phi(1.58) \approx 1 - 0.9429 = 0.0571 \quad (5.71\%)

    (可以看出:进行修正后,由于将 50 到 49.5 的连续过渡区域算入,概率估计提升了大约 1%1\%,在实际统计工程中半整数修正是不可或缺的。)