最尤法の幾つかの例題

最終更新 2016年 9月22日

最尤法とは

  母集団の確率分布がパラメータ $\theta$ に依存する確率分布 $p(x, \theta)$ であることは分かっているが、 $\theta$ の値が何であるかが分からない。 そのような状況で、 $n$ 回の観測を行って、観測値
最尤推定の例題00
を得たとする。 この結果を使って、 $\theta$ の値を推定したい。
  このとき、 尤度と呼ばれる次の関数
最尤推定の例題01
を定義し、 この関数を最大にする $\theta$ を求め、 その値を観測値から得た推定値とする方法を最尤法 (maximum likelihood method) という。
  尤度を最大にすることは、 独立に試行される確率を最大にすることを意味する(以下の例を参考)。 また、 パラメータが複数の場合(例えば正規分布)であっても、 考え方は変わらない。

正規分布の最尤推定

  正規分布
最尤推定の例題02
を定義するパラメータ $\mu$ と $\sigma^2$ の最尤推定量は、 それぞれ 観測値 $\{x_{1}^{M}, x_{2}^{M}, \cdots, x_{n}^{M} \}$ の平均値と分散である。 すなわち、
最尤推定の例題03
である。 ここで、 $ \overline{x} = \frac{1}{n} \sum_{i=1}^{n} x_{i}^{M} $ とした。

正規分布の最尤推定の解説はこちら



ポアソン分布の最尤推定

  ポアソン分布
最尤推定の例題04
を定義するパラメータ $\lambda$ の最尤推定量は、 観測値 $\{x_{1}^{M}, x_{2}^{M}, \cdots, x_{n}^{M} \}$ の平均値である。 すなわち、
最尤推定の例題05
である。

ポアソン分布の最尤推定の解説はこちら



二項分布の最尤推定

  二項分布
最尤推定の例題06
を定義するパラメータ $q$ の最尤推定量は、 観測値 $\{x_{1}^{M}, x_{2}^{M}, \cdots, x_{n}^{M} \}$ の平均値の $\frac{1}{m}$ 倍である。 すなわち、
最尤推定の例題07
である。

二項分布の最尤推定の解説はこちら



幾何分布の最尤推定

  幾何分布
最尤推定の例題08
を定義するパラメータ $q$ の最尤推定量は、 観測値 $\{x_{1}^{M}, x_{2}^{M}, \cdots, x_{n}^{M} \}$ の平均値の逆数である。 すなわち、
最尤推定の例題09
である。

幾何分布の最尤推定の解説はこちら



指数分布の最尤推定

  指数分布
最尤推定の例題10
を定義するパラメータ $\lambda$ の最尤推定量は、 観測値 $\{x_{1}^{M}, x_{2}^{M}, \cdots, x_{n}^{M} \}$ の平均値の逆数である。 すなわち、
最尤推定の例題11
である。

指数分布の最尤推定の解説はこちら