みなさん，こんにちは
おかしょです．
あのアポロ計画でも採用されたと言われているカルマンフィルタというアルゴリズムですが，カルマンフィルタを使用するにはある条件がありました．
それが独立性です．
カルマンフィルタの理論は確率変数が独立であるということを仮定して組み立てられました．
ここで，この確率変数の独立性とはどういう性質でしょうか．この記事では確率変数の独立性について解説します．
この記事を読むと以下のようなことがわかる・できるようになります．
- 確率変数の独立性とは
- 独立性を数式で表す
この記事を読む前に
独立性というのは特殊な確率変数の性質のことを言います．
そもそも確率変数とは何かわからない方は以下の記事で解説しているので，そちらを先に読んでおくことをおすすめします．
独立性とは
いきなり本題です．
独立性というのは2個以上の確率変数の関係性のことを言います．
以前，周辺分布と同時分布について解説をしました．
まだ読んでいない方はこちらの記事を読んでください．
この記事を読めばわかるかと思いますが，周辺分布というのは同時分布から求めることができます．
反対に同時分布を周辺分布から求めることはできません．
しかし，確率変数が互いに独立であった場合は同時分布を周辺分布から求めることができます．
つまり，独立性というのは同時分布を周辺分布から求めることができる確率変数のことを言います．
この説明だけではわかりにくいと思うので，具体例を用いて解説していきます．
サイコロを例に解説
確率統計学では例として，サイコロを利用することが非常に多いです．
サイコロは誰でも見たことがあり，非常に身近な存在だからでしょう．
この記事でも，何のひねりもなくサイコロを例にして確率変数の独立性について解説していきます．
サイコロを2回振り，最初に出る目が「偶数か奇数」の場合と，2回目に出る目が「3以下か4以上」で確率変数を定義したとします．
最初に振ったサイコロの目が偶数になる確率は「2, 4, 6」の3通りなので1/2，奇数になる確率は残りの「1, 3, 5」なので1/2となります．
2回目に出たサイコロの目が3以下となる確率も同様にして求めると1/2となります．
4以上の芽が出る確率は1/2となります．
ここで求められた確率は周辺分布のことなので，これを表で表すと以下のようになります．
\begin{array}{c|c|c|c}
2\ \ 1& \ \ 偶数\ \ & \ \ 奇数\ \ & 周辺分布\\
\hline
3以下 & ？ & ？ & \frac{1}{2} \\
\hline
4以上 &？ & ？ & \frac{1}{2} \\
\hline
周辺分布 & \frac{1}{2} & \frac{1}{2} & \\
\end{array}
表の中の「？」は同時分布を表します．
次は表の「？」を埋めることを考えてみます．
1番右上の「？」は1回目のサイコロの目が偶数で，2回目のサイコロの目が3以下である確率を表しています．
このようになる確率を求めると，以下のようになります．
$$ (偶数の確率)\times (3以下の確率) = \frac{1}{2} \times \frac{1}{2} = \frac{1}{4}$$
つまり，同時分布は周辺分布から求められたということになります．
先程も述べたように，確率変数が独立なときは同時分布を周辺分布から求めることができるので，今回の例のサイコロは独立であるということが言えます．
表の他の部分も埋めると以下のようになります．
\begin{array}{c|c|c|c}
2\ \ 1& \ \ 偶数\ \ & \ \ 奇数\ \ & 周辺分布\\
\hline
3以下 & \frac{1}{4}& \frac{1}{4}& \frac{1}{2} \\
\hline
4以上 &\frac{1}{4}& \frac{1}{4}& \frac{1}{2} \\
\hline
周辺分布 & \frac{1}{2} & \frac{1}{2} & \\
\end{array}
確率変数が独立であることを表す数式
以上のことから，確率変数が独立であるときは以下のような数式が成り立つと言うことができます．
$$ P_{xy}(x_i, y_j) = P_{x}(x_i) \times P_{y}(y_j) $$
逆に言うと，この式が成り立つ時，確率変数は独立であると言えます．
まとめ
この記事では，確率変数の独立性について解説しました．
独立性はカルマンフィルタ―を学習するうえで理解していなければならない性質なので，しっかり覚えておかなければなりません．
この記事が少しでもお役に立てれば幸いです．
続けて読む
確率変数の独立性について理解できたら，以下の記事で解説している確率変数の和の性質についても学習してみることをおすすめします．
カルマンフィルタの式展開を理解するには以下の記事が参考になると思います．
Twitterでは記事の更新情報や活動の進捗などをつぶやいているので気が向いたらフォローしてください．
それでは最後まで読んでいただきありがとうございました．
コメント