독립 동일 분포
- 각각의 분포(주변분포)는 모두 같다.
- 모두 독립이다.
위 조건을 만족할 때, 독립 동일 분포에 따른다고 한다. 영어로는 independent and identically distributed이며 줄여서 i.i.d.라고 쓸 때가 많다.
큰 수의 법칙
확률변수 \(X_{1}, X_{2}, ... , X_{n}\)에 대해 그 평균 \(Z\)는 다음과 같다.
\[Z \equiv \frac{X_{1}+X_{2}+ ...+X_{n}}{n}\]지금 만든 확률변수 Z의 기대값은 다음과 같이 ‘각각의 기대값’의 평균이 된다.
\[E[Z]= E\left[\frac{X_1+X_2+...+X_n}{n} \right]=\frac{E[X_{1}+X_{2}+...+X_{n}]}{n} \\ =\frac{E[X_{1}]+E[X_{2}]+...+E[X_{n}]}{n} =\frac{n\mu}{n}=\mu\]또한, \(X_{1} \sim X_{n}\) 가 독립일 경우 덧셈의 분산은 분산의 덧셈이된다. (확률변수가 1/n배 되었으므로 분산은 \(1 / n^{2}\)배가 된다.)
\[V[Z]=\frac{V[X_{1}]+V[X_{2}]+...V[X_{n}]}{n^2}\]여기서 \(X_{1} \sim X_{n}\)가 i.i.d. 일 때는 모든 분산은 표준편차의 제곱으로 동일하다.
\[V[Z]=\frac{n \sigma^2}{n^2} = \frac{\sigma^2}{n}\]여기서 n이 무한에 가까우면 \(V[Z]\)는 0에 수렴한다. 이를 바꿔 말하면 ‘개수 \(n\)을 무한히 늘리면 평균 \(Z_{n}\)은 오차가 없어지므로 \(\mu\)에 수렴한다’. 이 법칙을 ‘큰 수의 법칙’이라고 한다.
Comments