PRML1.5(同時確率) – PRMLで出てくる数式を掘り下げる

本シリーズの一覧はこちら
前回はこちら

さて、ここからは確率論の話に移ります。

以下の数式は「パターン認識と機械学習上」P.11～17「1.2 確率論」のものです。

同時確率

$$ p(X=x_i,Y=y_j)=\frac{n_{ij}}{N} \tag{1.5} $$

この式は同時確率の式です。

まず、$ X,Y $は確率変数といいます。

$$ 確率変数X:全事象 U={a,b,c,…} の1つ1つの根元事象 a,b,c,…に割り当てられた数値x_1,x_2,x_3,…のいずれかをとる変数。 $$

根元事象はこれ以上分けることのできない基本的な1つ1つの事象のことです。

確率変数Xは任意の値$ x_i(i=1,…,M) $
確率変数Yは任意の値$ y_i(i=1,…,L) $
を取れるものとします。

$ X $が$ x_i $、$ Y $が$ y_i $を取る確率を$ X=x_i $と$ Y=y_i $の同時確率と呼ぶのです。

全事象を$ N $、その中で$ X=x_i $かつ$ Y=y_i $となる倍の数を$ n_{ij} $とした際に式(1.5)が成り立ちます。