Probabiliity and Mathematical Statistics

随机事件 随机试验 $E$ 样本空间 $\Omega=\{E\text{ 的所有可能结果}\}$ 样本点 $e$（基本事件）：$E$的每个结果 随机事件：$A,B,C$ 为 $\Omega$ 的子集 $B\subset A$：$A$ 发生必然导致 $A$ 发生 必然事件：$\Omega$ 不可能事件：$\emptyset$ $A\cup B/A+B$： $A...

随机变量：定义在样本空间上的函数 $X=X(e),e\in\Omega$ 分布函数：$F(x)=P(X\leq x) ( \infty<x<\infty)$ 单调不减 $F(x)=F(x+0)$ $0\leq F(x)\leq 1$ $F( \infty)=0$ $F(\infty)=1$ $P(a<X\leq b)=F(b) F(a)$ 离散随机变量 0...

离散型随机变量 概率分布表（列联表） 联合分布函数：$F(x,y)=P(X\leq x,Y\leq y)$ $p {ij}=F(x i,y j) F(x i,y {j 1}) F(x {i 1},y j)+F(x {i 1},y {j 1})$ 边缘分布函数：$F X(x)=F(x,+\infty)$ （离散型向量）边缘分布率 条件概率: $P(Y=y j|...

期望 $E(X)=\sum {i=1}^{+\infty}x ip i$ 若 $\int { \infty}^{+\infty}|x|p(x)dx<\infty$, 则 $E(X)=\int { \infty}^{+\infty}xp(x)dx$；否则不存在 若 $X$ 不变号，可称无穷期望存在 $E(g(X))=\int { \infty}^{+\inft...

大数定律 $X n\overset{P}{\rightarrow}X$: 随机变量序列$\{X n\}$ 依概率收敛于随机变量 $X$, 即 $\lim {n\rightarrow\infty}P(|X n X|\geq\epsilon)=0$ $\{X n\}$ 服从大数定律：$\frac{1}{n}\sum {k=1}^n(X k EX k)\overs...

推断统计与描述统计 总体：研究对象全体 个体：总体中每个成员 样本，抽样，样本容量，样本值 简单随机样本：代表性，独立性 统计量：$T(x 1,x 2,\cdots,x n)$ 样本均值：$\overline X=\frac{1}{n}\sum {i=1}^n X i$ 样本方差：$S^2=\frac{1}{n 1}\sum {i=1}^n(X i \ove...

点估计 总体分布 $F(x;\theta)$, $\theta=(\theta 1,\theta 2,\cdots,\theta k)'$, 根据 $X 1,X 2,\cdots,X n$ 构造一个统计量 $\hat\theta(X 1,X 2,\cdots,X n)$ 作为 $\theta$ 的点估计 矩估计 求总体的各阶原点矩 $\mu i=g i(\t...

假设检验 原假设/null hypothesis $H 0$ 备择假设/alternate hypothesis $H 1$ 单边假设/双边假设 简单假设/复合假设 参数检验假设/非参数假设检验 假设检验的错误 第一类错误（弃真错误） P(拒绝 $H 0$|$H 0$)=$\alpha$ 显著性水平 $\alpha$ 第二类错误（存伪错误） P(接受 $H...

Basic Tail inequality Markov's Inequality $$P(X\geq t)\leq\frac{E(x)}{t}$$ Chebyshev's Inequality $$P(|X E(X)|\geq t)\leq\frac{V(X)}{t^2}$$ Moment Generating Functions Moment gener...

Balls into Bins $m$ balls into $n$ bins uniformly and independently Birthday Problem the mapping is 1 1 pigeonhole principle: $P=1,m 365$ $P(\text{one to one})=\prod {k=1}^{m 1}(1...