正規分布(ガウス分布)
連続変数の確率分布のうち,もっとも広く使われているものの一つである.正規分布が広く使われるのは,誤差が正規分布に従うことが多いためである.正規分布は,ガウスが星の位置を人間が観測した場合,実際の位置に対してどのようにばらつくかを調べる中で生まれた.
標準正規分布
もっとも基本的な正規分布.規格化(総和が1となるように調整する)のため$\sqrt{2 \pi}$で割っている.
$$p(x)=\frac{1}{\sqrt{2\pi}}\exp(-\frac{x^2}{2})$$
平行移動
標準正規分布は,0を中心としている分布であるが$\mu$を中心とした正規分布を作りたい場合,平行移動することを考える.
$$p(x|\mu)=\frac{1}{\sqrt{2\pi}}\exp(-\frac{(x-\mu)^2}{2})$$
スケーリング
標準正規分布を二階微分する.
$$ \frac{d^2\mathcal{N}}{dx^2}
= -\frac{1-x^2}{\sqrt{2\pi}}\exp(-\frac{x^2}{2})$$
よって,変曲点は+1,-1となる.
変曲点が$\sigma$の分布を作る場合,以下のようになる.
$$ p(x|0,\sigma^2)=\frac{1}{\sqrt{2\pi\sigma^2}}\exp(-\frac{x^2}{2\sigma^2})$$
平行移動とスケーリングをまとめて一般の正規分布$\mathcal{N}(x|\mu,\sigma^2)$が作られる.
$$\mathcal{N}(x|\mu,\sigma^2)=\frac{1}{\sqrt{2\pi\sigma^2}}\exp(-\frac{(x-\mu)^2}{2\sigma^2})$$
参考
- 手塚 太郎,"しくみがわかるベイズ統計と機械学習"
Tags: