ベイズの定理の証明

最終更新 2018年 1月6日
  二つの試行 $A$ と $B$ を行い、 試行 $A$ の事象が $a_{i}$ であった場合に 試行 $B$ の事象が $b_{j}$ である確率( 条件付き確率 ) を
と表し、 反対に試行 $B$ の事象が $b_{j}$ であった場合に 試行 $A$ の事象が $a_{i}$ である確率( 条件付き確率 ) を
と表す。
  このとき、
ベイズの定理
の関係が成り立つ。 これをベイズの定理 (Bayes' theorem) と呼ぶ。
  ここで $A$ と $B$ の事象全体をそれぞれ
とし、 試行 $A$ から事象 $a_{i}$ が得られる確率 (周辺確率) と 試行 $B$ から事象 $b_{j}$ が得られる確率 (周辺確率) をそれぞれ
と表した。
  以下に証明とそれに必要な定義を記す。

証明

  ベイズの定理を説明する際に現れる個々の用語の定義を述べた上で証明を行う。
同時確率と周辺確率
  試行 $A$ と試行 $B$ の両方を行うとき、 $A$ から事象 $a_{i}$ が得られ、なおかつ $B$ から事象 $b_{j}$ が得られる確率を
と表し、 同時確率 (joint probability) と呼ぶ。
  これにより、 試行 $A$ から 事象 $a_{i}$ が得られる確率を
と定義する。 同様に 試行 $B$ から 事象 $b_{j}$ が得られる確率を
と定義する。 これらを周辺確率とよぶ。
条件付き確率
  試行 $A$ の事象が $a_{i}$ であった場合に 試行 $B$ の事象が $b_{j}$ である確率( 条件付き確率 ) は、 同時確率と周辺確率によって
と定義される。 ただし、定義されるのは $ \mathrm{Pr}(A=a_{i}) \neq 0$ の場合のみである。
  同じように、 試行 $B$ の事象が $b_{i}$ であった場合に 試行 $A$ の事象が $a_{i}$ である確率( 条件付き確率 ) は、
と定義される。 ただし、定義されるのは $ \mathrm{Pr}(B=b_{j}) \neq 0$ の場合のみである。
ベイズの定理の証明
  $(3)$ と $(4)$ から
が成り立つ (これをベイズの定理ということもある)。
  さらに $(2)$ と $(3)$ を用いると、
と証明される。
補足
  このようにベイズの定理は、同時確率、周辺確率、条件付き確率の定義からストレートに導かれる。 ゆえに、 取り扱っている現象がベイズの定理の適用対象として妥当であるどうかを考えるときには、 その現象に対して同時確率、周辺確率、条件付き確率の定義が妥当であるかどうかを検証する必要がある。