PRML1.5(同時確率) – PRMLで出てくる数式を掘り下げる

本シリーズの一覧はこちら
前回はこちら

さて、ここからは確率論の話に移ります。

以下の数式は「パターン認識と機械学習上」P.11～17「1.2 確率論」のものです。

同時確率

$p(X=x_i,Y=y_j)=\frac{n_{ij}}{N} \tag{1.5}$

この式は同時確率の式です。

まず、 $X,Y$ は確率変数といいます。

$確率変数X:全事象 U={a,b,c,…} の1つ1つの根元事象 a,b,c,…に割り当てられた数値x_1,x_2,x_3,…のいずれかをとる変数。$

根元事象はこれ以上分けることのできない基本的な1つ1つの事象のことです。

確率変数Xは任意の値 $x_i(i=1,…,M)$
確率変数Yは任意の値 $y_i(i=1,…,L)$
を取れるものとします。

$X$ が $x_i$ 、 $Y$ が $y_i$ を取る確率を $X=x_i$ と $Y=y_i$ の同時確率と呼ぶのです。

全事象を $N$ 、その中で $X=x_i$ かつ $Y=y_i$ となる倍の数を $n_{ij}$ とした際に式(1.5)が成り立ちます。