独立な確率変数の和の分散  

最終更新 2017年 3月12日
  互いに独立な確率変数 $X$ と $Y$ の和 $X+Y$ の分散は、 それぞれの分散の和に等しい。 すなわち、
独立な場合の和の分散
が成立する。

  証明

離散的な場合:
  $X = x_{i}$ かつ $Y=y_{j}$ となる確率を $ \mathrm{Pr}(X=x_{i}, \hspace{1mm} Y=y_{j}) $ と表すと、 $X$ の分散 $V(X)$ と $Y$ の分散 $V(Y)$ は、 それぞれ
である。 ここで、 $n_{x}$ と $n_{y}$ はそれぞれ $X$ と $Y$ の事象の数であり、 $E(X)$ と $E(Y)$ はそれぞれ $X$ と $Y$ の期待値である。
  また、 $X+Y$ の分散は、
である。
  ここで、 $E(X+Y)$ は $X+Y$ の期待値であるが、 一般に期待値には加法性があるので、
が成り立つ。 ゆえに $V(X+Y)$ は、
と三つの項で表される。 第一項は $X$ の分散 $V(X)$ であり、 第二項は $Y$ の分散 $V(Y)$ である。 よって、
と表される。 ここで共分散 $\mathrm{Cov}(X,Y)$ を
と定義すると、 分散 $V(X+Y)$ は、
と表される。
  最後の項の共分散 $\mathrm{Cov}(X,Y)$ は、 一般には正の値をとることもあれば、 負の値をとることもある。 しかし、 確率変数が独立な場合には必ず $0$ になる。 そのことは次のように示される。
  共分散を展開すると、
となるが、 各項に現れた総和の部分がそれぞれ
であることから、
と表せる。 ここで、 独立な確率変数の積の期待値が期待値の積に等しいこと、 すなわち、
を用いると、
を得る。
  ゆえに、 確率変数が独立な場合には、
が成り立つ。  
連続的な場合:
  $X = x$ かつ $Y=y$ における確率分布(確率密度関数)を $ p(x,y) $ と表すと、 $X$ の分散 $V(X)$ と $Y$ の分散 $V(Y)$ は、 それぞれ
である。 ここで、 $E(X)$ と $E(Y)$ はそれぞれ $X$ と $Y$ の期待値である。
  また、 $X+Y$ の分散は、
である。
  ここで、 $E(X+Y)$ は $X+Y$ の期待値であるが、 一般に期待値には加法性があるので、
が成り立つ。 ゆえに $V(X+Y)$ は、
と三つの項で表される。 第一項は $X$ の分散 $V(X)$ であり、 第二項は $Y$ の分散 $V(Y)$ である。 よって、
と表せる。 ここで共分散 $\mathrm{Cov}(X,Y)$ を
と定義すると、 分散 $V(X+Y)$ は、
と表せる。
  最後の項の共分散 $\mathrm{Cov}(X,Y)$ は、 一般には正の値をとることもあれば、 負の値をとることもある。 しかし、 確率変数が独立な場合には必ず $0$ になる。 そのことは次のように示される。
  共分散を展開すると、
となるが、 各項に現れた総和の部分がそれぞれ
であることから、
と表せる。 ここで、 独立な確率変数の積の期待値が期待値の積に等しいこと、 すなわち、
を用いると、
を得る。
  ゆえに、 確率変数が独立な場合には、
が成り立つ。
 
補足 (一般論):
上の議論を一般的に表す。 $X+Y$ の分散が $(X+Y-E(X+Y))^2$ の期待値であること、 \begin{eqnarray} V(X+Y) = E \left(\{X+Y-E(X+Y)\}^2 \right) \end{eqnarray}
を用いると、 期待値の加法性定数倍の期待値の性質により、
と表せるが、 それぞれの項が
であることから、
が成り立つ。 ここで、 独立な場合には、
が成り立つので、 再び期待値の加法性定数倍の期待値の性質を用いると、 共分散が
のように $0$ となる。 ゆえに、
が成り立つ。