PRML1.5(同時確率) – PRMLで出てくる数式を掘り下げる

本シリーズの一覧はこちら
前回はこちら

さて、ここからは確率論の話に移ります。

以下の数式は「パターン認識と機械学習 上」P.11～17「1.2 確率論」のものです。

同時確率

$$ p(X=x_i,Y=y_j)=\frac{n_{ij}}{N} \tag{1.5} $$

この式は同時確率の式です。

まず、\( X,Y \)は確率変数といいます。

$$ 確率変数X:全事象 U={a,b,c,…} の1つ1つの根元事象 a,b,c,…に割り当てられた数値x_1,x_2,x_3,…のいずれかをとる変数。 $$

スバラシク実力がつくと評判の統計学キャンパス・ゼミ P.26

根元事象はこれ以上分けることのできない基本的な1つ1つの事象のことです。

確率変数Xは任意の値\( x_i(i=1,…,M) \)
確率変数Yは任意の値\( y_i(i=1,…,L) \)
を取れるものとします。

\( X \)が\( x_i \)、\( Y \)が\( y_i \)を取る確率を\( X=x_i \)と\( Y=y_i \)の同時確率と呼ぶのです。

全事象を\( N \)、その中で\( X=x_i \)かつ\( Y=y_i \)となる倍の数を\( n_{ij} \)とした際に式(1.5)が成り立ちます。