正規分布(ガウス分布)

連続変数の確率分布のうち，もっとも広く使われているものの一つである．正規分布が広く使われるのは，誤差が正規分布に従うことが多いためである．正規分布は，ガウスが星の位置を人間が観測した場合，実際の位置に対してどのようにばらつくかを調べる中で生まれた．

標準正規分布

もっとも基本的な正規分布．規格化(総和が1となるように調整する)のため$\sqrt{2\pi }$で割っている．

$$p(x)=\frac{1}{\sqrt{2\pi }}\exp (-\frac{x^2}{2})$$

平行移動

標準正規分布は，0を中心としている分布であるが$\mu$を中心とした正規分布を作りたい場合，平行移動することを考える．

$$p(x|\mu )=\frac{1}{\sqrt{2\pi }}\exp (-\frac{(x-\mu {)}^2}{2})$$

スケーリング

標準正規分布を二階微分する． $$\frac{d^2\mathcal{N}}{d{x}^2}=-\frac{1-x^2}{\sqrt{2\pi }}\exp (-\frac{x^2}{2})$$ よって，変曲点は+1,-1となる．
変曲点が$\sigma$の分布を作る場合，以下のようになる．

$$p(x|0,{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{x^2}{2{\sigma }^2})$$

平行移動とスケーリングをまとめて一般の正規分布$\mathcal{N}(x|\mu ,{\sigma }^2)$が作られる．

$$\mathcal{N}(x|\mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})$$

参考

• 手塚 太郎，"しくみがわかるベイズ統計と機械学習"

• しくみがわかるベイズ統計と機械学習