概率论与数理统计公式

这里将重点放在公式本身，一些不太重要的条件会忽略掉.

杂七杂八

$\Gamma$ 函数

$\Gamma$ 函数计算与正态分布有关的矩：

\int_{0}^{+ \infty} x^{α} e^{- β x^{2}} d x = \frac{Γ ((α + 1) / 2)}{2 β^{(α + 1) / 2}},

$\alpha>-1,\beta>0$ .

含参变量积分的可微性

\begin{matrix} \frac{d}{d u} \int_{a}^{b} f (x, u) d x = \int_{a}^{b} \frac{\partial f (x, u)}{\partial u} d x, \\ \frac{d}{d u} \int_{a (u)}^{b (u)} f (x, u) d x = \int_{a (u)}^{b (u)} \frac{\partial f (x, u)}{\partial u} d x + f (b (u), u) b^{'} (u) - f (a (u), u) a^{'} (u) . \end{matrix}

特别，

\frac{d}{d y} \int_{a (y)}^{b (y)} f (x) d x = f (b (y)) b^{'} (y) - f (a (y)) a^{'} (y) .

此时也可以从另一个角度考虑：

\frac{d}{d y} \int_{a (y)}^{b (y)} f (x) d x = \frac{d}{d y} (F (b (y)) - F (a (y))) = f (b (y)) b^{'} (y) - f (a (y)) a^{'} (y) .

事件及其概率

条件概率

定义：

P (A | B) = \frac{P (A B)}{P (B)} .

乘法公式：

P (A B) = P (A) P (B | A) .

全概率公式：

P (A) = \sum_{i = 1}^{n} P (A | B_{i}) P (B_{i}),

$B_1,B_2,\cdots,B_n$ $\varOmega$ 的一个划分.

贝叶斯公式：

P (B_{i} | A) = \frac{P (B_{i} A)}{P (A)} = \frac{P (A | B_{i}) P (B_{i})}{\sum_{j = 1}^{n} P (A | B_{j}) P (B_{j})};

特别，

P (B | A) = \frac{P (A | B) P (B)}{P (A | B) P (B) + P (A | \overset{―}{B}) P (\overset{―}{B})} .

随机变量及其分布

离散型随机变量的分布

两点分布（伯努利分布）

P (X = x) = p^{x} (1 - p)^{1 - x}, x = 0 或 1.

离散均匀分布

P (X = x_{k}) = \frac{1}{n}, k = 1, 2, \dots, n .

超几何分布

$X\sim H(N,M,n)$ $N$ $M$ $n$ 条鱼，

P (X = m) = \frac{C_{M}^{m} \cdot C_{N - M}^{n - m}}{C_{N}^{n}}, m = 0, 1, \dots, n .

二项分布

$X\sim B(n,p)$ ，

P (X = k) = C_{n}^{k} p^{k} (1 - p)^{n - k}, k = 0, 1, \dots, n .

负二项分布

负二项分布（帕斯卡分布）

$X\sim NB(r,p)$ ，

P (X_{r} = k) = C_{k - 1}^{r - 1} p^{r} q^{k - r}, k = r, r + 1, \dots .

几何分布

$r=1$ $X_1\sim Ge(p)$ ，

P (X_{1} = k) = q^{k - 1} p, k = 1, 2, \dots .

几何分布有无记忆性，

P (X > m + n | X > m) = P (X > n) .

泊松分布

$X\sim P(\lambda)$ ，

P (X = k) = e^{- λ} \frac{λ^{k}}{k!}, k = 0, 1, \dots, λ > 0.

泊松逼近定理：

$X_n\sim B(n,p_n)$ $n\to\infty,np_n\to\lambda>0$ ，

lim_{n \to \infty} P (X_{n} = k) = \frac{λ^{k}}{k!} e^{- λ}, k = 0, 1, 2, \dots .

实际应用 $n\geqslant30$ $np_n\leqslant5$ $n\geqslant100$ $np_n\leqslant10$ 情况下仍有较高的精度.

连续型随机变量的分布

均匀分布

$X\sim U(a,b)$ ，

f (x) = \frac{1}{b - a} I_{(a, b)} (x),

\begin{matrix} F (x) = {\begin{cases} 0, & x ⩽ a, \\ \frac{x - a}{b - a}, & a < x < b, \\ 1, & x ⩾ b . \end{cases} \end{matrix}

指数分布

$X\sim Exp(\lambda)$ ，

f (x) = λ e^{- λ x} I_{(0, + \infty)} (x),

\begin{matrix} F (x) = {\begin{cases} 1 - e^{- λ x}, & x > 0, \\ 0, & x ⩽ 0. \end{cases} \end{matrix}

指数分布有无记忆性

P (X > s + t | X > t) = P (X > s) .

一个非负连续型随机变量，如果具有无记忆性，那么其分布必为指数分布.

正态分布

$X\sim N(\mu,\sigma^2)$ ，

f (x) = \frac{1}{\sqrt{2 π} σ} \exp {- \frac{(x - μ)^{2}}{2 σ^{2}}}, x \in R;

$X\sim N(0,1)$ ，

φ (x) = \frac{1}{\sqrt{2 π}} e^{- \frac{x^{2}}{2}},

Φ (x) = \int_{- \infty}^{x} φ (u) d u = \frac{1}{\sqrt{2 π}} \int_{- \infty}^{x} e^{- \frac{u^{2}}{2}} d u .

$X\sim N(\mu,\sigma^2)$ $\dfrac{X-\mu}{\sigma}\sim N(0,1)$ ，

F (x) = Φ (\frac{x - μ}{σ}) .

随机变量函数的分布

离散型随机变量函数的分布

略.

连续型随机变量函数的分布

$X\sim f(x),Y=g(X)$ ，

F_{1} (y) = P (Y ⩽ y) = P (g (X) ⩽ y) = \int_{g (x) ⩽ y} f (x) d x .

密度函数变换公式：

$g(x)$ 严格单调且反函数可导，

f_{1} (y) = f (h (y)) | h^{'} (y) | I_{(α, β)} (y),

$h(y)$ $g(x)$ $\alpha=\min\{g(-\infty),g(+\infty)\}$ $\beta=\max\{g(-\infty),g(+\infty)\}$ .

$g$ 逐段单调，

f_{1} (y) = \sum_{j} f (h_{j} (y)) | h_{j}^{'} (y) | I_{j} (y) .

多维随机变量及其分布

边缘分布

略.

条件分布

定义：

f_{X | Y} (x | y) = \frac{f (x, y)}{f_{2} (y)},

f_{Y | X} (y | x) = \frac{f (x, y)}{f_{1} (x)} .

乘法公式：

f (x, y) = f_{Y | X} (y | x) f_{1} (x) = f_{X | Y} (x | y) f_{2} (y) .

贝叶斯公式：

\begin{matrix} f_{Y | X} (y | x) = \frac{f (x, y)}{f_{1} (x)} = \frac{f_{X | Y} (x | y) f_{2} (y)}{f_{1} (x)}, \\ f_{X | Y} (x | y) = \frac{f (x, y)}{f_{2} (y)} = \frac{f_{Y | X} (y | x) f_{1} (x)}{f_{2} (y)} . \end{matrix}

随机向量函数的分布

$(X,Y)\sim f(x,y)$ ，

$Z=g(X,Y)$ ，
$F_{Z} (z) = P (Z ⩽ z) = \iint_{g (x, y) ⩽ z} f (x, y) d x d y;$
$Z_1=g_1(X,Y),Z_2=g_2(X,Y)$ ，
$F_{Z} (z_{1}, z_{2}) = \underset{g_{2} (x, y) ⩽ z_{2}}{\iint_{g_{1} (x, y) ⩽ z_{1}}} f (x, y) d x d y = \underset{v ⩽ z_{2}}{\iint_{u ⩽ z_{1}}} f (φ_{1} (u, v), φ_{2} (u, v)) | \frac{\partial (x, y)}{\partial (u, v)} | d u d v,$ $f_{Z} (z_{1}, z_{2}) = f (φ_{1} (z_{1}, z_{2}), φ_{2} (z_{1}, z_{2})) {| \frac{\partial (φ_{1}, φ_{2})}{\partial (u, v)} |}_{(u, v) = (z_{1}, z_{2})} .$
$u=g_1(x,y),v=g_2(x,y)$ $x=\varphi_1(u,v),y=\varphi_2(u,v)$ .

$X,Y$ $f(x,y)=f_1(x)f_2(y)$ ，计算会方便进行.

独立随机变量的和：

$X,Y$ $f_1(x),f_2(y)$ $Z=X+Y$ ，

F_{Z} (z) = \int_{- \infty}^{+ \infty} f_{1} (x) \int_{- \infty}^{z - x} f_{2} (y) d y d x,

f_{Z} (z) = \int_{- \infty}^{+ \infty} f_{1} (x) f_{2} (z - x) d x = \int_{- \infty}^{+ \infty} f_{2} (y) f_{1} (z - y) d y \equiv f_{1} * f_{2} (z) .

$\Gamma$ 分布）与差（拉普拉斯分布）：

$X$ $Y$ $Exp(\lambda)$ $Z=X+Y$ ，
$f_{Z} (z) = λ^{2} z e^{- λ z} I_{(0, + \infty)} (z) .$
$X_1,X_2,\cdots,X_n\ \mathrm{i.i.d.}\sim Exp(\lambda)$ $Z=X_1+X_2+\cdots+X_n$ ，
$f_{n} (z) = \frac{λ^{n}}{Γ (n)} z^{n - 1} e^{- λ z} I_{(0, + \infty)} (z),$
$Z\sim Ga(n,\lambda)$ $X_i\sim Ga(1,\lambda)$ .
$\Gamma$ $n$ 具有再生性.
$Z=X-Y$ ，
$f_{Z} (z) = \frac{λ}{2} e^{- λ | z |},$
该分布称为拉普拉斯分布，即独立指数分布的差服从拉普拉斯分布.

正态分布随机变量的和：

$X$ $Y$ $N(\mu_1,\sigma_1^2)$ $N(\mu_2,\sigma_2^2)$ $Z=X+Y\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)$ .

$N(\mu,\sigma^2)$ $\mu,\sigma^2$ 具有再生性.

独立随机变量商的分布：

$X$ $Y$ $X\sim f_1(x)$ $Y\sim f_2(y)$ $U=\dfrac{X}{Y}$ ，

f_{U} (u) = \int_{- \infty}^{+ \infty} | v | f_{1} (u v) f_{2} (v) d v .

$U=\dfrac XY,V=Y$ .

$X,Y\ \mathrm{i.i.d.}\sim N(0,\sigma^2)$ $Z=\dfrac XY$ ，则

f_{Z} (z) = \frac{1}{π (1 + z^{2})},

该分布称为柯西分布，即独立同正态分布随机变量的商服从柯西分布.

相互独立随机变量变量最大值和最小值的分布：

$X$ $Y$ $X\sim F_1(x)，Y\sim F_2(y)$ $\max\{X,Y\}$ $\min\{X, Y\}$ 的分布.

最大值：
$F_{\max} (z) = F_{1} (z) F_{2} (z),$ $f_{max} (z) = f_{1} (z) F_{2} (z) + F_{1} (z) f_{2} (z) .$
$n$ 个变量：
$F_{\max} (z) = F_{1} (z) F_{2} (z) \dots F_{n} (z),$ $f_{max} (z) = \frac{d}{d z} F_{\max} (z) .$
若再加上同分布的条件，
$F_{\max} (z) = F^{n} (z),$ $f_{\max} (z) = n F^{n - 1} (z) f (z) .$
最小值：
$F_{\min} (z) = 1 - (1 - F_{1} (z)) (1 - F_{2} (z)),$ $f_{min} (z) = f_{1} (z) (1 - F_{2} (z)) + (1 - F_{1} (z)) f_{2} (z) .$
$n$ 个变量：
$F_{\min} (z) = 1 - (1 - F_{1} (z)) (1 - F_{2} (z)) \dots (1 - F_{n} (z)),$ $f_{min} (z) = \frac{d}{d z} F_{\min} (z) .$
若再加上同分布的条件，
$F_{\min} (z) = 1 - (1 - F (z))^{n},$ $f_{\min (z)} = n (1 - F (z))^{n - 1} f (z) .$

随机变量的数字特征和极限定理

数学期望

定义：

E (X) = \int_{- \infty}^{+ \infty} x d F (x) = \int_{- \infty}^{+ \infty} x f (x) d x .

性质：

线性性：
$E (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} E (X_{i}),$
没有限制，普适.
相互独立的随机变量之积的期望：
$E (\prod_{k = 1}^{n} X_{k}) = \prod_{k = 1}^{n} E (X_{k}) .$
随机向量函数的期望：
$\begin{aligned} E (Y) & = \int_{R^{m}} y d F_{Y} (y) = \int_{R^{n}} g (x) d F_{X} (x) \\ = {\begin{cases} \sum g (x) P (X = x), X 为离散型, \\ \int_{R^{n}} g (x) f_{X} (x) d x, X 为连续型 . \end{cases} \end{aligned}$
$c$ $E(c\boldsymbol X)=cE(\boldsymbol X)$ .
$\boldsymbol X$ 直接计算 $\boldsymbol Y$ 的期望而无需计算出其分布.

条件数学期望

定义：

E (Y | X = x) = \int_{- \infty}^{+ \infty} y f_{Y | X} (y | x) d y .

条件期望的平滑公式（全期望公式）：

E (E (Y | X)) = E (h (X)) = E (Y) .

方差

方差和标准差的定义：

\begin{matrix} σ^{2} = Var (X) \equiv E [(X - μ)^{2}], \\ σ = \sqrt{Var (X)} . \end{matrix}

方差的性质：

由线性性得
$Var (X) = E (X^{2}) - (E (X))^{2} = E (X^{2}) - μ^{2} .$
$a,b$ 为常数，则
$Var (a X + b) = a^{2} Var (X) .$
独立随机变量和的方差等于随机变量方差的和；更一般地，
$Var (\sum_{i = 1}^{n} c_{i} X_{i}) = \sum_{i = 1}^{n} c_{i}^{2} Var (X_{i}) .$
特别，
$\begin{matrix} Var (X_{1} - X_{2}) = Var (X_{1}) + Var (X_{2}), \\ Var (\frac{1}{n} \sum_{i = 1}^{n} X_{i}) = Var (\overset{―}{X}) = \frac{σ^{2}}{n}, \end{matrix}$
$\mathrm{Var}(X_i)=\sigma^2$ .

马尔可夫不等式

P (Y ⩾ ε) ⩽ \frac{E (Y)}{ε} .

切比雪夫不等式

P (| X - μ | ⩾ ε) ⩽ \frac{Var (X)}{ε^{2}} .

若干分布的期望和方差总结

$0-1$ 分布

$X\sim B(1,p)$ ，

P (X = x) = p^{x} (1 - p)^{1 - x}, x = 0 或 1,

E (X) = p,

Var (X) = p (1 - p) = p q .

离散均匀分布

P (X = x_{k}) = \frac{1}{n}, k = 1, 2, \dots, n,

意义不大.

超几何分布

$X\sim H(N,M,n)$ ，

P (X = m) = \frac{C_{M}^{m} \cdot C_{N - M}^{n - m}}{C_{N}^{n}}, m = 0, 1, \dots, n,

E (X) = \frac{M n}{N} = \frac{M}{N} \cdot n,

二项分布

$X\sim B(n,p)$ ，

P (X = k) = C_{n}^{k} p^{k} (1 - p)^{n - k}, k = 0, 1, \dots, n,

E (X) = n p,

Var (X) = n p (1 - p) = n p q .

负二项分布

$X\sim NB(r,p)$ ，

P (X_{r} = k) = C_{k - 1}^{r - 1} p^{r} q^{k - r}, k = r, r + 1, \dots,

E (X) = \frac{r}{p} .

$X_1\sim Ge(p)$ ，

P (X_{1} = k) = q^{k - 1} p, k = 1, 2, \dots,

E (X) = \frac{1}{p} .

负二项分布的期望可以借助几何分布的期望，由期望的线性性得到；直接计算则相对麻烦.

泊松分布

$X\sim P(\lambda)$ ，

P (X = k) = e^{- λ} \frac{λ^{k}}{k!}, k = 0, 1, \dots, λ > 0,

E (X) = λ,

Var (X) = λ .

均匀分布

$X\sim U(a,b)$ ，

f (x) = \frac{1}{b - a} I_{(a, b)} (x),

E (X) = \frac{a + b}{2},

Var (X) = \frac{(b - a)^{2}}{12} .

指数分布

$X\sim Exp(\lambda)$ ，

f (x) = λ e^{- λ x} I_{(0, + \infty)} (x),

E (X) = \frac{1}{λ},

Var (X) = \frac{1}{λ^{2}} .

正态分布

$X\sim N(\mu,\sigma^2)$ ，

f (x) = \frac{1}{\sqrt{2 π} σ} \exp {- \frac{(x - μ)^{2}}{2 σ^{2}}}, x \in R,

E (X) = μ,

Var (X) = σ^{2} .

矩

定义：

$E [(X - c)^{k}]$
$X$ $c$ $k$ 阶矩；
$α_{k} = E (X^{k})$
$X$ $k$ $E(X)=\alpha_1$ ；
$μ_{k} = E [(X - E (X))^{k}]$
$X$ $k$ $\mathrm{Var}(X)=\mu_2$ .

协方差

定义：

Cov (X, Y) = E [(X - E (X)) (Y - E (Y))] .

性质：

对称性：
$Cov (X, Y) = Cov (Y, X) .$
由期望的线性性转化为期望计算：
$Cov (X, Y) = E (X Y) - E (X) E (Y) .$
协方差的双线性性：
$\begin{matrix} Cov (a X + b, c Y + d) = a c Cov (X, Y), \\ Cov (a X + b Y, c X + d Y) = a c Var (X) + (a d + b c) Cov (X, Y) + b d Var (Y) . \end{matrix}$
$\mathrm{Cov}(X,X)=\mathrm{Var}(X)$ .
$X,Y$ $\mathrm{Cov}(X,Y)=0$ ；
$[\mathrm{Cov}(X,Y)]^2\leqslant \mathrm{Var}(X)\mathrm{Var}(Y)$ $X,Y$ 之间有严格的线性关系.

熵

定义：

$X$ 为离散型随机变量，
$H (X) = - \sum_{k = 1}^{\infty} p_{k} \log_{2} (p_{k});$
$X$ 为连续型随机变量，
$H (X) = - \int_{- \infty}^{+ \infty} f_{X} (x) \ln f_{X} (x) d x .$

大数定律

依概率收敛：

$X_1,X_2,\cdots,X_n,\cdots$ $X$ $\forall\varepsilon>0$ ，有

lim_{n \to \infty} P (| X_{n} - X | ⩾ ε) = 0,

$\{X_n\}$ $X$ $X_n\to N,\text{ in }P$ $X_n\overset{P}\to X$ .

$n$ $\mu$ ，即

\frac{S_{n}}{n} \overset{P}{\to} μ, n \to \infty .

伯努利大数定律：

$\{X_k\}$ $0-1$ 分布随机变量序列，则

\frac{1}{n} \sum_{k = 1}^{n} X_{k} \overset{P}{\to} p, n \to \infty .

中心极限定理

依分布收敛：

$X_1,X_2,\cdots,X_n,\cdots$ $X$ $F_n$ $F$ $X_n$ $X$ $F$ $x\in\R$ 有

lim_{n \to \infty} F_{n} (x) = F (x),

$\{F_n\}$ $F$ $\{X_n\}$ $X$ $X_n\overset{\mathcal L}{\to}X$ $X_n\overset{d}{\to}X$ .

林德伯格-莱维中心极限定理：

$X_1,X_2,\cdots,X_n,\cdots$ $\mu,\sigma^2$ $S_n$ 标准化后的分布函数近似于标准正态分布函数，即

\frac{\sqrt{n} (\overset{―}{X} - μ)}{σ} \overset{L}{\to} N (0, 1),

$\overline X=\dfrac{S_n}{n}$ .

棣莫弗-拉普拉斯中心极限定理：

$X_1,X_2,\cdots,X_n,\cdots$ $S_n=\displaystyle\sum_{i=1}^nX_i,0<p<1,$ $X_i\sim B(1,p)$ $\forall\ x\in\R$ ，有

lim_{n \to \infty} P (\frac{S_{n} - n p}{\sqrt{n p (1 - p)}} ⩽ x) = Φ (x) .

$S_n\sim B(n,p)$ ，因而棣莫弗-拉普拉斯中心极限定理告诉我们可以用正态分布来近似二项分布，即

$np$ $n\geqslant30$ $np_n\leqslant5$ $n\geqslant100$ $np_n\leqslant10$ 情况下仍有较高的精度）；
$np$ $n\geqslant30$ 时，近似程度能满足一般的要求）.

统计学基本概念

基本概念

$X_1,X_2,\cdots,X_n$ $X$ 中抽取的一个简单样本，则常见的统计量包括：

样本均值
$\overset{―}{X} = \frac{1}{n} \sum_{i = 1}^{n} X_{i},$
它反映了总体均值的信息.
样本方差
$S^{2} = \frac{1}{n - 1} \sum_{i = 1}^{n} {(X_{i} - \overset{―}{X})}^{2},$
$S$ 称为样本标准差，它反映了总体标准差的信息.
样本矩
$a_{k} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}^{k}, k = 1, 2, \dots$
$k$ $a_1=\overline X$ 即样本均值.
$m_{k} = \frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - \overset{―}{X})}^{k}, k = 2, 3, \dots$
$k$ 阶中心矩.
$\overline X\overset P\to\mu$ $m_2\overset P\to\sigma^2$ ，其他矩也依概率收敛到相应的总体矩.

抽样分布

$\chi^2$ 分布

定义：

$(X_1,X_2,\cdots,X_n)$ 为来自标准正态总体的一个简单随机样本，

X = X_{1}^{2} + X_{2}^{2} + \dots + X_{n}^{2},

$X\sim \chi_n^2$ .

性质：

$\Gamma$ 分布的关系：
$X = \sum_{i = 1}^{n} X_{i}^{2} \sim G a (n / 2, 1 / 2) .$
$Y\sim Ga(\alpha,\lambda)$ $Z=2\lambda Y\sim \chi_{2\alpha}^2$ .
$X\sim \chi_n^2$ ，则

E (X) = n, Var (X) = 2 n .

$n$ $X\sim\chi_m^2,Y\sim\chi_n^2$ $X,Y$ $Z=X+Y\sim\chi_{m+n}^2$ .

$t$ 分布

定义：

$X\sim N(0,1),Y\sim\chi_n^2$ $X,Y$ 相互独立，

T = \frac{X}{\sqrt{Y / n}},

$T\sim t_n$ .

性质：

$n=1$ $t_1$ 分布就是柯西分布，
$f_{1} (t) = \frac{1}{π (1 + t^{2})}, t \in R .$
$T\sim t_n$ $n\geqslant2$ $E(T)=0$ $n\geqslant 3$ $\mathrm{Var}(T)=n/(n-2).$
$n\to\infty$ $t_n$ 分布的概率密度函数趋于标准正态分布概率密度函数，即
$lim_{n \to \infty} f_{n} (t) = φ (t) .$

$F$ 分布

定义：

$X\sim\chi_m^2,Y\sim\chi_n^2$ $X,Y$ 相互独立，

F = \frac{X / m}{Y / n},

$F\sim F_{m,n}$ .

性质：

$Z\sim F_{m,n}$ $1/Z\sim F_{n,m}$ ；
$T\sim t_n$ $T^2\sim F_{1,n}$ ；
$F_{m,n}(1-\alpha)=1/F_{n,m}(\alpha)$ .

其它

$X_1,X_2,\cdots,X_n\ \mathrm{i.i.d.}\sim N(\mu,\sigma^2)$ $c_1,c_2,\cdots,c_n$ 是不全为零的常数，则有

独立的正态随机变量线性组合服从正态分布，即
$T = \sum_{k = 1}^{n} c_{k} X_{k} \sim N (μ \sum_{k = 1}^{n} c_{k}, σ^{2} \sum_{k = 1}^{n} c_{k}^{2}) .$
$c_1=c_2=\cdots=c_n=\dfrac1n$ $T=\dfrac1n\displaystyle\sum_{i=1}^nX_i=\overline X$ 为样本均值时，有
$\overset{―}{X} \sim N (μ, \frac{σ^{2}}{n}) .$
$S^2=\dfrac1{n-1}\displaystyle\sum_{i=1}^n\left(X_i-\overline X\right)^2$ 为样本方差，则
$\frac{(n - 1) S^{2}}{σ^{2}} \sim χ_{n - 1}^{2} .$
$\overline X$ $S^2$ 相互独立；
进而，
$\frac{\sqrt{n} (\overset{―}{X} - μ)}{S} \sim t_{n - 1} .$

$X_1,X_2,\cdots,X_n\ \mathrm{i.i.d.}$ 服从指数分布

f (x, λ) = λ e^{- λ x} I_{(0, + \infty)} (x),

则有

2 λ n \overset{―}{X} = 2 λ \sum_{i = 1}^{n} X_{i} \sim χ_{2 n}^{2} .

参数点估计

矩估计法

\begin{matrix} α_{j} = α_{j} (θ_{1}, θ_{2}, \dots, θ_{k}) \approx a_{j} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}^{j}, \\ μ_{j} = μ_{j} (θ_{1}, θ_{2}, \dots, θ_{k}) \approx m_{j} = \frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - \overset{―}{X})}^{j} . \end{matrix}

结论：

$X\sim N(\mu,\sigma^2)$ $\hat\mu_M=\overline X,\hat\sigma^2_M=m_2$ $S^2$ $\sigma^2$ .
能用低阶矩的就尽量用低阶矩来估计参数.

最大似然估计

L (θ_{1}^{*}, θ_{2}^{*}, \dots, θ_{k}^{*}; x_{1}, x_{2}, \dots, x_{n}) = max_{(θ_{1}, θ_{2}, \dots, θ_{k}) \in Θ} L (θ_{1}, θ_{2}, \dots, θ_{k}; x_{1}, x_{2}, \dots, x_{n}) .

若似然函数是严格单调的，则似然函数的最大值在边界处达到，从而得到最大似然估计；
$n$ $n$ 个式子的和，然后求极值.

结论：

$X\sim N(\mu,\sigma^2)$ $\hat\mu_L=\overline X,\hat\sigma^2_L=m_2$ $S^2$ $\sigma^2$ .

优良性准则

点估计的无偏性

定义：

$\hat g(X_1,X_2,\cdots,X_n)$ $g(\theta_1,\theta_2,\cdots,\theta_k)$ 的一个估计量，称

E_{θ} (\hat{g} (X_{1}, X_{2}, \dots, X_{n})) - g (θ_{1}, θ_{2}, \dots, θ_{k})

$\hat g$ $(\theta_1,\theta_2,\cdots,\theta_k)\in\varTheta$ ，都有

E_{θ_{1}, θ_{2}, \dots, θ_{k}} (\hat{g} (X_{1}, X_{2}, \dots, X_{n})) = g (θ_{1}, θ_{2}, \dots, θ_{k}),

$\hat g$ $g(\theta_1,\theta_2,\cdots,\theta_k)$ 的一个无偏估计量.

结论：

$\displaystyle\sum_{i=1}^n \omega_i X_i$ $\mu$ $\overline X$ 在某种合理的标准下是最优的.
$S^2$ $\sigma^2$ $m_2$ 则不是无偏估计，它系统偏小.
$S$ $\sigma$ 的无偏估计，它系统偏小. 对正态分布，修正系数
$c_{n} = \sqrt{\frac{n - 1}{2}} Γ (\frac{n - 1}{2}) / Γ (\frac{n}{2}) .$
无偏估计不总是存在.

最小方差无偏估计

有效性的定义：

$\hat\theta_1,\hat\theta_2$ $\theta$ 的无偏估计，方差存在，若

{Var}_{θ} ({\hat{θ}}_{1}) ⩽ {Var}_{θ} ({\hat{θ}}_{2}), \forall θ \in Θ,

$\theta$ $\hat\theta_1$ $\hat\theta_2$ 更有效.

点估计量的大样本理论

相合性

$\hat\theta(X_1,X_2,\cdots,X_n)$ $\theta$ $n\to\infty$ 时有

\hat{θ} (X_{1}, X_{2}, \dots, X_{n}) \overset{P}{\to} θ,

$\hat\theta(X_1,X_2,\cdots,X_n)$ $\theta$ 的一个（弱）相合估计量.

（依概率收敛的定义见大数定律一节.）

渐进正态性

$\hat\theta(X_1,X_2,\cdots,X_n)$ $\theta$ 的一个点估计，设它的方差存在，记

{Var}_{θ} (\hat{θ} (X_{1}, X_{2}, \dots, X_{n})) = σ_{n}^{2} (θ),

$n\to\infty$ 时有

lim_{n \to \infty} P (\frac{\hat{θ} (X_{1}, X_{2}, \dots, X_{n}) - θ}{σ_{n} (θ)} ⩽ x) = Φ (x), \forall x \in R,

$\hat\theta(X_1,X_2,\cdots,X_n)$ 有渐进正态性.

区间估计

枢轴变量法

方法

$\theta$ .

$\theta$ $T(\boldsymbol X)$ $\theta$ 的最大似然估计.

$S(T,U,\theta)$ $U=U(\boldsymbol X)$ $F$ $T,U,\theta$ 的函数，不能包含其他未知参数.

$\forall a<b$ $a\leqslant S(T,U,\theta)\leqslant b$ $A\leqslant\theta\leqslant B$ $A,B$ $T,U,a,b$ $\theta$ 无关.

$F$ $\alpha/2$ $w_{\alpha/2}$ $1-\alpha/2$ $w_{1-\alpha/2}$ ，由分位数定义，有

P (w_{1 - α / 2} ⩽ S (T, U, θ) ⩽ w_{α / 2}) = 1 - α .

结论

$\mu$ ：

$\overline x\pm d$ ，其中误差界限

\begin{matrix} d = {\begin{cases} \frac{σ}{\sqrt{n}} u_{α / 2}, & σ^{2} 已 知, \\ \frac{s}{\sqrt{n}} t_{n - 1} (α / 2), & σ^{2} 未 知, \\ \frac{\hat{σ}}{\sqrt{n}} u_{α / 2}, & n > 30, σ^{2} 未 知, 总 体 不 必 为 正 态 . \end{cases} \end{matrix}

其中前两种情况所用枢轴变量分别为

\frac{\sqrt{n} (\overset{―}{X} - μ)}{σ} \sim N (0, 1)

和

\frac{\sqrt{n} (\overset{―}{X} - μ)}{S} \sim t_{n - 1} .

$\sigma^2$ ：

枢轴变量为

\frac{(n - 1) S^{2}}{σ^{2}} \sim χ_{n - 1}^{2},

置信区间为

σ^{2} \in [\frac{(n - 1) s^{2}}{χ_{n - 1}^{2} (α / 2)}, \frac{(n - 1) s^{2}}{χ_{n - 1}^{2} (1 - α / 2)}] .

$\mu_1-\mu_2$ ：

$\sigma_1^2,\sigma_2^2$ 已知，
枢轴变量
$\frac{(\overset{―}{Y} - \overset{―}{X}) - (μ_{2} - μ_{1})}{\sqrt{\frac{σ_{1}^{2}}{m} + \frac{σ_{2}^{2}}{n}}} \sim N (0, 1),$
置信区间
$μ_{2} - μ_{1} \in (\overset{―}{y} - \overset{―}{x}) \pm \sqrt{\frac{σ_{1}^{2}}{m} + \frac{σ_{2}^{2}}{n}} u_{α / 2} .$
$\sigma_1^2,\sigma_2^2$ 未知，且样本量较小，
增加条件
$σ_{1}^{2} = σ_{2}^{2} \equiv σ^{2} .$
$\sigma^2$ ，
$S_{T}^{2} = \frac{(m - 1) S_{1}^{2} + (n - 1) S_{2}^{2}}{m + n - 2} \sim χ_{m + n - 2}^{2} .$ $\sqrt{\frac{m n}{m + n}} \frac{(\overset{―}{Y} - \overset{―}{X}) - (μ_{2} - μ_{1})}{S_{T}} \sim t_{m + n - 2},$
置信区间
$μ_{2} - μ_{1} \in (\overset{―}{y} - \overset{―}{x}) \pm \sqrt{\frac{m n}{m + n}} s_{T} t_{m + n - 2} (α / 2) .$
$\sigma_1^2,\sigma_2^2$ 未知，且样本量较大，利用中心极限定理估计.

$\sigma_1^2/\sigma_2^2$ ：

枢轴变量

\frac{S_{1}^{2} / σ_{1}^{2}}{S_{2}^{2} / σ_{2}^{2}} \sim F_{m - 1, n - 1},

置信区间

\frac{σ_{1}^{2}}{σ_{2}^{2}} \in [\frac{s_{1}^{2}}{s_{2}^{2}} F_{n - 1, m - 1} (1 - α / 2), \frac{s_{1}^{2}}{s_{2}^{2}} F_{n - 1, m - 1} (α / 2)] .

大样本方法

$p$ 的区间估计

枢轴变量

\frac{Y_{n} - n p}{\sqrt{n p (1 - p)}} \sim N (0, 1),

置信区间（得分区间）的近似

p \in \hat{p} \pm u_{α / 2} \sqrt{\frac{\hat{p} (1 - \hat{p})}{n}},

$n\hat p>10$ $n(1-\hat p)>10$ 成立.

$w$ ，解得样本量要求为

n = \frac{4 u_{α / 2}^{2} \hat{p} \hat{q}}{w^{2}} .

$\mu$ 的置信区间

枢轴变量

\frac{\sqrt{n} (\overset{―}{X} - μ)}{S} \sim N (0, 1),

置信区间

μ \in \overset{―}{x} \pm \frac{s}{\sqrt{n}} u_{α / 2} .

置信限

$\overline x- d，\overline x+ d$ ，其中
$\begin{matrix} d = {\begin{cases} \frac{σ}{\sqrt{n}} u_{α}, & σ^{2} 已知, \\ \frac{s}{\sqrt{n}} t_{n - 1} (α), & σ^{2} 未知 . \end{cases} \end{matrix}$
正态总体方差：置信下限、置信上限分别为
$\frac{(n - 1) s^{2}}{χ_{n - 1}^{2} (α)}, \frac{(n - 1) s^{2}}{χ_{n - 1}^{2} (1 - α)} .$

对非正态总体，在样本量较大时候可以使用大样本方法寻求置信限.

假设检验

正态总体参数检验

单个正态总体均值的检验

$\sigma^2$ 已知

问题 1：

H_{0} : μ ⩾ μ_{0} \leftrightarrow H_{1} : μ < μ_{0} .

检验：

Ψ : 当 Z = \frac{\sqrt{n} (\overset{―}{X} - μ_{0})}{σ} < - u_{α} 时 拒 绝 原 假 设 H_{0}, 否 则 不 能 拒 绝 H_{0} .

问题 2：

H_{0}^{'} : μ ⩽ μ_{0} \leftrightarrow H_{1}^{'} : μ > μ_{0} .

检验：

Ψ^{'} : 当 Z = \frac{\sqrt{n} (\overset{―}{X} - μ_{0})}{σ} > u_{α} 时 拒 绝 原 假 设 H_{0}^{'}, 否 则 不 能 拒 绝 H_{0}^{'} .

问题 3：

H_{0}^{″} : μ = μ_{0} \leftrightarrow H_{1}^{″} : μ \neq μ_{0} .

检验：

Ψ^{″} : 当 | Z | = \frac{\sqrt{n} | \overset{―}{X} - μ_{0} |}{σ} > u_{α / 2} 时 拒 绝 原 假 设 H_{0}^{″}, 否 则 不 能 拒 绝 H_{0}^{″} .

$\sigma^2$ 未知

问题 1：

H_{0} : μ ⩾ μ_{0} \leftrightarrow H_{1} : μ < μ_{0} .

检验为

Ψ : 当 T < - t_{n - 1} (α) 时 ， 拒 绝 H_{0}, 否 则 不 能 拒 绝 H_{0} .

问题 2，

H_{0}^{'} : μ ⩽ μ_{0} \leftrightarrow H_{1}^{'} : μ > μ_{0} .

检验为

Ψ^{'} : 当 T > t_{n - 1} (α) 时 ， 拒 绝 H_{0}^{'}, 否 则 不 能 拒 绝 H_{0}^{'} .

问题 3，

H_{0}^{″} : μ = μ_{0} \leftrightarrow H_{1}^{″} : μ \neq μ_{0} .

检验为

Ψ^{″} : 当 | T | > t_{n - 1} (α / 2) 时 ， 拒 绝 H_{0}^{″}, 否 则 不 能 拒 绝 H_{0}^{″} .

$n$ $t_{n-1}(\alpha)$ $t_{n-1}(\alpha/2)$ $u_{\alpha},u_{\alpha/2}$ 代替，而且此时的正态分布不必是正态分布.

两个正态总体均值差的检验

成组比较

$(X_1,X_2,\cdots,X_m)$ $N(\mu_1,\sigma^2)$ $(Y_1,Y_2,\cdots,Y_n)$ $N(\mu_2,\sigma^2)$ $\mu_1,\mu_2$ $\sigma^2$ $\sigma^2$ 可以已知也可以未知.

问题：

$\delta$ 是给定的常数，考虑

$H_0:\mu_1-\mu_2\geqslant\delta\lrarr H_1:\mu_1-\mu_2<\delta$ ；
$H_0':\mu_1-\mu_2\leqslant\delta\lrarr H_1':\mu_1-\mu_2>\delta$ ；
$H_0'':\mu_1-\mu_2=\delta\lrarr H_1'':\mu_1-\mu_2\neq\delta$ .

$\sigma^2$ $\delta=0$ .

$\sigma^2$ 已知：取检验统计量
$Z = \frac{\overset{―}{X} - \overset{―}{Y} - δ}{σ \sqrt{\frac{1}{m} + \frac{1}{n}}} .$
$\alpha$ 的检验分别为
$\begin{aligned} g : 当 Z < - u_{α} 时拒绝 H_{0}, 否则不能拒绝 H_{0}; \\ g^{'} : 当 Z > u_{α} 时拒绝 H_{0}^{'}, 否则不能拒绝 H_{0}^{'}; \\ g^{″} : 当 | Z | > u_{α / 2} 时拒绝 H_{0}^{″}, 否则不能拒绝 H_{0}^{″} . \end{aligned}$
$\sigma^2$ 未知：取检验统计量
$T = \sqrt{\frac{m n}{m + n}} \frac{\overset{―}{X} - \overset{―}{Y} - δ}{S_{T}},$
其中
$S_{T} = \sqrt{\frac{(m - 1) S_{1}^{2} + (n - 1) S_{2}^{2}}{m + n - 2}},$
$\alpha$ 的检验分别为
$\begin{aligned} h : 当 T < - t_{m + n - 2} (α) 时拒绝 H_{0}, 否则不能拒绝 H_{0}; \\ h^{'} : 当 T > t_{m + n - 2} (α) 时拒绝 H_{0}^{'}, 否则不能拒绝 H_{0}^{'}; \\ h^{″} : 当 | T | > t_{m + n - 2} (α / 2) 时拒绝 H_{0}^{″}, 否则不能拒绝 H_{0}^{″} . \end{aligned}$

成对比较

$Z=Y-X$ $Z_1=Y_1-X_1,Z_2=Y_2-X_2,\cdots,Z_n=Y_n-X_n$ .

考虑如下检验假设问题：

$H_0:\mu_z=C\lrarr H_1:\mu_z\neq C$ ；
$H_0':\mu_z\geqslant C\lrarr H_1':\mu_z<C$ ；
$H_0'':\mu_z\leqslant C\lrarr H_1'':\mu_z>C$ ，

$\mu_z$ $Z$ $C=0$ 是最常见的.

$Z$ 服从正态分布，从而转为一样本正态检验问题；
在大样本场合，由中心极限定理构造正态检验统计量也能得到.

正态总体方差的检验

单个正态总体方差的检验

考虑如下检验问题：

$H_0:\sigma^2\geqslant\sigma_0^2\lrarr H_1:\sigma^2<\sigma_0^2$ ；
$H_0':\sigma^2\leqslant\sigma_0^2\lrarr H_1':\sigma^2>\sigma_0^2$ ；
$H_0'':\sigma^2=\sigma_0^2\lrarr H_1'':\sigma^2\neq\sigma_0^2$ ，

$\sigma_0^2$ 为给定的常数.

其对应的检验分别为

ϕ : 当 χ^{2} = \frac{(n - 1) S^{2}}{σ_{0}^{2}} < χ_{n - 1}^{2} (1 - α) 时 拒 绝 H_{0}, 否 则 不 能 拒 绝 H_{0};

ϕ^{'} : 当 χ^{2} = \frac{(n - 1) S^{2}}{σ_{0}^{2}} > χ_{n - 1}^{2} (α) 时 拒 绝 H_{0}^{'}, 否 则 不 能 拒 绝 H_{0}^{'};

ϕ^{″} : 当 χ^{2} = \frac{(n - 1) S^{2}}{σ_{0}^{2}} < χ_{n - 1}^{2} (1 - α / 2) 或 χ^{2} > χ_{n - 1}^{2} (α / 2) 时 拒 绝 H_{0}^{″}, 否 则 不 能 拒 绝 H_{0}^{″} .

两个正态总体方差比的检验

$(X_1,X_2,\cdots,X_m),(Y_1,Y_2,\cdots,Y_n)$ $N(\mu_1,\sigma_1^2)$ $N(\mu_2,\sigma_2^2)$ 中抽取的简单样本，且两组样本之间相互独立. 考虑如下检验问题：

$H_0:\sigma_1^2/\sigma_2^2\geqslant b\lrarr H_1:\sigma_1^2/\sigma_2^2<b$ ；
$H_0':\sigma_1^2/\sigma_2^2\leqslant b\lrarr H_1:\sigma_1^2/\sigma_2^2>b$ ；
$H_0'':\sigma_1^2/\sigma_2^2= b\lrarr H_1:\sigma_1^2/\sigma_2^2\neq b$ ，

$b$ $b=1$ ，即两个方差相等.

$S_1^2$ $S_2^2$ $\boldsymbol X$ $\boldsymbol Y$ 的样本方差，则对应的检验分别为

φ : 当 F = \frac{S_{1}^{2}}{b S_{2}^{2}} < F_{m - 1, n - 1} (1 - α) 时 拒 绝 H_{0}, 否 则 不 能 拒 绝 H_{0};

φ^{'} : 当 F = \frac{S_{1}^{2}}{b S_{2}^{2}} > F_{m - 1, n - 1} (α) 时 拒 绝 H_{0}^{'}, 否 则 不 能 拒 绝 H_{0}^{'};

φ^{″} : 当 F = \frac{S_{1}^{2}}{b S_{2}^{2}} < F_{m - 1, n - 1} (1 - α / 2) 或 者 F > F_{m - 1, n - 1} (α / 2) 时 拒 绝 H_{0}^{″}, 否 则 不 能 拒 绝 H_{0}^{″} .

$F_{m-1,n-1}(1-\alpha)=(F_{n-1,m-1}(\alpha))^{-1}$ .

$p$ 的检验

$(X_1,X_2,\cdots,X_n)$ $0-1$ $B(1,p)$ $p$ 的常见假设有三种：

$H_0:p\leqslant p_0\lrarr H_1:p>p_0$ ；
$H_0':p\geqslant p_0\lrarr H_1':p<p_0$ ；
$H_0'':p=p_0\lrarr H_1'':p\neq p_0$ .

$n$ $30$ ），

$\psi$ $\dfrac{X-np_0}{\sqrt{np_0(1-p_0)}}>u_\alpha$ $H_0$ $H_0$ ；
$\psi'$ $\dfrac{X-np_0}{\sqrt{np_0(1-p_0)}}<-u_\alpha$ $H_0'$ $H_0'$ ；
$\psi''$ $\left|\dfrac{X-np_0}{\sqrt{np_0(1-p_0)}}\right|>u_{\alpha/2}$ $H_0''$ $H_0''$ .

$p$ 值

概念：

p 值 = P (得 到 当 前 样 本 下 检 验 统 计 量 的 值 或 更 极 端 值 | 原 假 设 下) .

$\alpha$ $p$ $\alpha$ $T$ $\alpha$ 检验法则：

ϕ : 当 p 值 < α 时 ， 拒 绝 原 假 设 H_{0} .

$p$ $p$ $0$ $p$ $1$ ，不能拒绝原假设的证据就越充分.

非参数假设检验

拟合优度检验

理论分布完全已知且只取有限个值

检验问题

H_{0} : P (X = a_{i}) = p_{i}, i = 1, 2, \dots, k \leftrightarrow H_{1} : \exists j s . t . P (X = a_{j}) \neq p_{j} .

统计量

Z = \sum \frac{(O - E)^{2}}{E} = \sum_{i = 1}^{k} \frac{(n p_{i} - n_{i})^{2}}{n p_{i}} = \sum_{i = 1}^{k} \frac{n_{i}^{2}}{n p_{i}} - n .

检验为

φ : 当 Z > χ_{k - 1}^{2} (α) 时 ， 拒 绝 H_{0}, 否 则 不 能 拒 绝 H_{0} .

拟合优度

p (Z_{0}) = P (Z ⩾ Z_{0}) = 1 - F_{χ_{k - 1}^{2}} (Z_{0})

$Z_0$ 这样大的差异就越不奇怪.

理论分布类型已知但含有有限个未知参数

检验问题

H_{0}^{'} : P (X = a_{i}) = p_{i} (θ_{1}, θ_{2}, \dots, θ_{r}), i = 1, 2, \dots, k,

$a_i,i=1,2,\cdots,k$ $p_i>0,i=1,2,\cdots,k$ $r$ $\theta_1,\theta_2,\cdots,\theta_r,r<k-1$ .

统计量

Z = \sum \frac{(O - \hat{E})^{2}}{\hat{E}} = \sum_{i = 1}^{k} \frac{(n {\hat{p}}_{i} - n_{i})^{2}}{n {\hat{p}}_{i}} = \sum_{i = 1}^{k} \frac{n_{i}^{2}}{n {\hat{p}}_{i}} - n .

$\hat p_i$ $p_i$ $p(\hat\theta_1,\hat\theta_2,\cdots,\hat\theta_r),i=1,2,\cdots,k$ $\hat\theta_1,\hat\theta_2,\cdots,\hat\theta_r$ $H_0'$ $\theta_1,\theta_2,\cdots,\theta_r$ 的最大似然估计.

检验为

φ^{'} : 当 Z > χ_{k - r - 1}^{2} (α) 时 ， 拒 绝 H_{0}^{'}, 否 则 不 能 拒 绝 H_{0}^{'} .

$X$ 取无穷多个值，但其分布中仅含有有限个未知参数，此时原假设可以表示为

H_{0}^{″} : X \sim F_{θ} (x), x \in R,

$\theta=(\theta_1,\theta_2,\cdots,\theta_r)$ 为未知参数，它们在一定区域内变化.

$k$ 段，记切分出的区间为

(x_{0}, x_{1}], (x_{1}, x_{2}], \dots, (x_{k - 2}, x_{k - 1}], (x_{k - 1}, x_{k}),

$x_0=-\infty,x_k=+\infty$ ，则定义离散型随机变量

Y = a_{i}, x_{i - 1} < X ⩽ x_{i}, i = 1, 2, \dots, k .

$H_0''$ $Y$ 的分布为

P (Y = a_{i}) = p_{i} (θ_{1}, θ_{2}, \dots, θ_{r}), i = 1, 2, \dots, k,

$p_i(\theta_1,\theta_2,\cdots,\theta_r)=F_\theta(x_i)-F_\theta(x_{i-1})$ .

$H_0''$ $H_0'$ 的问题.

列联表检验

n_{i \cdot} = \sum_{j = 1}^{b} n_{i j}, n_{\cdot j} = \sum_{i = 1}^{a} n_{i j} .

独立性检验

统计量

\begin{aligned} Z & = \sum_{i = 1}^{a} \sum_{j = 1}^{b} \frac{(n_{i j} - n_{i \cdot} n_{\cdot j} / n)^{2}}{n_{i \cdot} n_{\cdot j} / n} \\ = \sum_{i = 1}^{a} \sum_{j = 1}^{b} \frac{(n n_{i j} - n_{i \cdot} n_{\cdot j})^{2}}{n n_{i \cdot} n_{\cdot j}} . \end{aligned}

$n\to\infty$ $Z$ $k-1-r=ab-1-(a+b-2)=(a-1)(b-1)$ $\chi^2$ $\chi^2_{(a-1)(b-1)}$ .

$2\times 2$ 列联表，

Z = \frac{n (n_{11} n_{22} - n_{12} n_{21})^{2}}{n_{1 \cdot} n_{2 \cdot} n_{\cdot 1} n_{\cdot 2}}

$\chi_1^2$ .

齐一性检验

$A$ $B$ 的分布全部相同：

H_{0} : P (B = j | A = 1) = P (B = j | A = 2) = \dots = P (B = j | A = a), j = 1, 2, \dots, b .

$Z$ $(a-1)(b-1)$ $\chi^2$ 分布.

概率论与数理统计 公式

杂七杂八

Γ\Gamma 函数

含参变量积分的可微性

事件及其概率

条件概率

随机变量及其分布

离散型随机变量的分布

两点分布（伯努利分布）

离散均匀分布

超几何分布

二项分布

负二项分布

负二项分布（帕斯卡分布）

几何分布

泊松分布

连续型随机变量的分布

均匀分布

指数分布

正态分布

随机变量函数的分布

离散型随机变量函数的分布

连续型随机变量函数的分布

多维随机变量及其分布

边缘分布

条件分布

随机向量函数的分布

随机变量的数字特征和极限定理

数学期望

数学期望

条件数学期望

方差

马尔可夫不等式

切比雪夫不等式

若干分布的期望和方差总结

0−10-1 分布

离散均匀分布

超几何分布

二项分布

负二项分布

泊松分布

均匀分布

指数分布

正态分布

矩

协方差

相关系数

熵

大数定律

中心极限定理

统计学基本概念

基本概念

抽样分布

χ2\chi^2 分布

tt 分布

FF 分布

其它

参数点估计

矩估计法

最大似然估计

优良性准则

点估计的无偏性

最小方差无偏估计

点估计量的大样本理论

相合性

渐进正态性

区间估计

枢轴变量法

方法

结论

大样本方法

比例 pp 的区间估计

一般总体均值 μ\mu 的置信区间

置信限

假设检验

正态总体参数检验

单个正态总体均值的检验

σ2\sigma^2 已知

σ2\sigma^2 未知

两个正态总体均值差的检验

概率论与数理统计公式

$\Gamma$ 函数

$0-1$ 分布

$\chi^2$ 分布

$t$ 分布

$F$ 分布

$p$ 的区间估计

$\mu$ 的置信区间

$\sigma^2$ 已知

$\sigma^2$ 未知

$p$ 的检验

$p$ 值