隨機變數收斂性

機乎確定收斂(almost sure convergence)

• 給定定義於同一機率空間$(\Omega, \mathbb{F}, P)$的隨機變數$X$與隨機變數序列$X_n$。
  • 若$\lim_{n \rightarrow \infty} X_n(\omega) = X(\omega), \forall \omega \in \Omega \backslash N, \ P(N) = 0$
  • 或寫為 $P \left( \omega \in \Omega | \lim_{n \rightarrow \infty} X_n(\omega) = X(\omega) \right) = 1$
  • 則稱$X_n$機乎確定收斂到$X$，記為$\lim_{n \rightarrow \infty} X_n = X \text{a.s.}$.
  • 此收斂指隨機變數序列$X_n$在測度不為0的事件集合均收斂到隨機變數$X$，即給定$\omega_k$，若$P(\omega_k) > 0$，必可得到$\lim_{n \rightarrow \infty} X_n(\omega_k) = X(\omega_k)$.
  • 而此測度為0的集合$N$中，隨機變數序列不一定會收斂到$X$。
  • convergence a.s. $\Rightarrow$ convergence in probability $\Rightarrow$ convergence in distribution，反之不一定成立。

機率收斂(convergence in probability)

• 給定定義於同一機率空間$(\Omega, \mathbb{F}, P)$的隨機變數$X$與隨機變數序列$X_n$。
  • 若$\forall epsilon > 0, \ \lim_{n \rightarrow \infty} P(| X_n - X| \geq \epsilon ) = 0$
  • 常寫為$\text{plim}_{n \rightarrow \infty}X_n = X$
  • 此收斂性指是測度的收斂，因此會存在$\omega_k \ni \lim_{n \rightarrow \infty} X_n(\omega_k) \neq X(\omega)$，但是這種事件發生的機率非常的小。

分佈收斂(convergence in distribution)

• 給定定義於同一機率空間$(\Omega, \mathbb{F}, P)$的隨機變數$X$與隨機變數序列$X_n$。且對應的cumulative distribution functions分別為$F_n$與$F$。
  • 若$\lim_{n \rightarrow \infty} F_n(x) = F(x),\ \forall x \in \mathbb{R}$.
  • 這是隨機變數最弱的收斂形式。