正規分布について

証明.

次のガウス積分を仮定して, 命題を示す.

関数 $f(x)$ について, $x$ から $t$ に変数変換 $\displaystyle t = \frac{x-\mu}{\sqrt{2}\sigma}$ を行う. このとき, $-\infty < t < \infty$ であり, $dt = \displaystyle \frac{1}{\sqrt{2} \sigma}dx$ である.

したがって,

$\begin{aligned}
&\int_{-\infty}^{\infty} f(x) dx \\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx \\
& \displaystyle = \int_{-\infty}^{\infty} \frac{1}{\sqrt{\pi}} e^{-\left( \frac{x-\mu}{\sqrt{2}\sigma} \right)^2} \cdot \frac{dx}{\sqrt{2}\sigma} \\
& \displaystyle= \int_{-\infty}^{\infty} \frac{1}{\sqrt{\pi}} e^{-t^2}dt
\end{aligned}$

となる. ガウス積分を仮定すると,

$\begin{aligned}
& \int_{-\infty}^{\infty} \frac{1}{\sqrt{\pi}} e^{-t^2}dt \\
& = \frac{1}{\sqrt{\pi}} \int_{-\infty}^{\infty} e^{-t^2}dt \\
& = \frac{1}{\sqrt{\pi}} \cdot \sqrt{\pi} \\
& = 1. \\
\end{aligned}$

が得られる.

ゆえに, $\displaystyle \int_{-\infty}^{\infty} f(x) dx = 1$ が成り立つ.

証明.

正規分布の確率密度関数は次の通りであった.

期待値 $E[X]$ の定義を実際に計算すると,

$\begin{aligned}
& E[X] \\
& =\int_{-\infty}^{\infty} xf(x) dx \\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}\sigma} xe^{-\frac{(x-\mu)^2}{2\sigma^2}} dx
\end{aligned}$

となる. ここで, $y = x-\mu$ と変数変換を行う.

$dy=dx$ であり, $y$ は $-\infty$ から $\infty$ を動く.

$\begin{aligned}
& E[X] \\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}\sigma} (y + \mu)e^{-\frac{y^2}{2\sigma^2}} dy \\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}\sigma} y e^{-\frac{y^2}{2\sigma^2}} dy \\
& \phantom{xxxx}+ \mu \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}\sigma} e^{-\frac{y^2}{2\sigma^2}} dy
\end{aligned}$

ここで, 第一項目の被積分関数である $\displaystyle y e^{-\frac{y^2}{2\sigma^2}}$ は奇関数であるため, $\displaystyle \int_{-\infty}^{\infty}$ での積分は $0$ となる.

また, 第二項目の被積分関数は $\displaystyle \frac{1}{\sqrt{2 \pi}\sigma} e^{-\frac{y^2}{2\sigma^2}}$ は $N(0, \sigma^2)$ の確率密度関数であるから, この積分の値は $1$ である.

ゆえに, $E[X] = \mu$ が成り立つ.

証明.

正規分布 $N(\mu, \sigma^2)$ の確率密度関数は次の通りであった.

この期待値は $E[X]=\mu$ であった.

分散 $V[X]$ の定義を実際に計算すると,

$\begin{aligned}
& V[X] \\
& =\int_{-\infty}^{\infty} (x-\mu)^2f(x) dx \\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}\sigma} (x-\mu)^2e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx
\end{aligned}$

となる. ここで, $\displaystyle z = \frac{x-\mu}{\sigma}$ と変数変換を行う.

$\sigma dz=dx$ であり, $z$ は $-\infty$ から $\infty$ を動く.

よって, $V[X]$ は次のようになる.

$V[X]$ $\displaystyle = \sigma^2 \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}} z^2e^{-\frac{z^2}{2}} dz$

上の積分を部分積分により計算する.

$\displaystyle \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}} z \left( ze^{-\frac{z^2}{2}} \right) dz$

$\displaystyle = \left[ \frac{1}{\sqrt{2 \pi}} z \left(-e^{-\frac{z^2}{2}}\right) \right]_{-\infty}^{\infty} dz$ $\displaystyle -\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}} (z)' \left(-e^{-\frac{z^2}{2}}\right) dz$

$\displaystyle = 0$ $\displaystyle +\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi}} e^{-\frac{z^2}{2}} dz$

ここで, 第2項目の被積分関数は標準正規分布の確率密度関数であるための積分値は $1$ である.

ゆえに, $V[X] = \sigma^2$ が成り立つ.

証明.

正規分布 $N(\mu, \sigma^2)$ の確率密度関数は

であった. 確率変数の変換 $X \mapsto Y$ は, 確率密度関数において,

$f_X(x) dx = f_Y(y) dy$

が成り立つ必要がある.

$y=ax+b$ について, $dy = a dx$ であるが, 確率の値が正であることを保つ必要があることから, $dy = |a| dx$ である.

また, $\displaystyle -\frac{(x-\mu)^2}{2\sigma^2}$ に $y=ax+b$ の関係式から $y$ に関する式にすると,

$\displaystyle -\frac{(y-(a\mu+b))^2}{2(a\sigma)^2}$

となる. ここで, $f_Y(y)dy = f_X(x)dx$ を実際に計算すると,

$f_X(x)$

$\displaystyle =\frac{1}{\sqrt{2 \pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}dx$

$\displaystyle =\frac{1}{\sqrt{2 \pi}\sigma} e^{-\frac{(\frac{x-b}{a}-\mu)^2}{2\sigma^2}} \frac{1}{|a|}dy$

$\displaystyle =\frac{1}{\sqrt{2 \pi}|a|\sigma} e^{-\frac{(y-(a\mu+b))^2}{2(a\sigma)^2}} dy$

となる. したがって, $Y$ の確率密度関数は

$\displaystyle f_Y(y) =\frac{1}{\sqrt{2 \pi}|a|\sigma} e^{-\frac{(y-(a\mu+b))^2}{2(a\sigma)^2}}$

である. この式は, 平均値 $a\mu + b$, 標準偏差 $|a|\sigma$ の正規分布の確率密度関数を表している.

ゆえに, $Y \sim N(a\mu + b, (a\sigma)^2)$ である.

証明.

標準正規分布 $N(0, 1^2)$ に従う確率変数を $Z$ とする. この確率密度関数

において, 実際に

$P(-1 \leq Z \leq 1)$ $= 0.6827 \cdots$,

$P(-2 \leq Z \leq 2)$ $= 0.9545 \cdots$,

$P(-3 \leq Z \leq 3)$ $= 0.9973 \cdots$

が成り立つ.

正規分布 $N(\mu, \sigma^2)$ に従う確率変数 $X$ について, 標準化 $\displaystyle Z=\frac{X-\mu}{\sigma}$ を行えば, $Z$ は標準正規分布に従う. また, $n$ を自然数とすれば,

$P(\mu - n\sigma \leq X \leq \mu + n \sigma)$
$=P(\mu - n\sigma \leq \sigma Z+ \mu \leq \mu + n \sigma)$
$=P(- n\sigma \leq \sigma Z \leq n \sigma)$
$=P(- n \leq Z \leq n)$

が成り立つ.

ゆえに, $n=1$, $2$, $3$ とすれば,

$P(\mu-\sigma \leq X \leq \mu + \sigma)$ $\fallingdotseq 0.68$,
$P(\mu-2\sigma \leq X \leq \mu + 2\sigma)$ $\fallingdotseq 0.95$,
$P(\mu-3\sigma \leq X \leq \mu + 3\sigma)$ $\fallingdotseq 0.99$

が成り立つ.