PRML1.27～1.28(累積分布関数) – PRMLで出てくる数式を掘り下げる

本シリーズの一覧はこちら
前回はこちら

変数変換

$$
\begin{align}
p_y(y) &= p_x(x)|\frac{dx}{dy}| \\
&= p_x(g(y))|g'(y)| \tag{1.27}
\end{align}
$$

この式は変数に非線形な変換を施して、$ p_x(x)をp_y(y) $に変換したということを表しています。
この変数変換を行った際に、確率密度の場合はdx成分のせいでヤコビ行列が出現します。

…このヤコビ行列なんですが、大学数学基礎を勉強した際に重積分の変数変換で出てきたのは知っているのですが、
確率で出てきた際の振る舞いは全く知らないので、勉強したら追記します。

$$ P(z) = \int_{-\infty}^zp(x)dx \tag{1.28} $$

こちらはxが区間$ -\infty , z $に入る確率を表しています。
区間の左端が$ -\infty $なので、zまでの全ての分布を累積するので累積分布関数(cumulative distribution function)といいます。

$ P(x) $は$ p(x) $の積分なので、逆に言うと$ P'(x) $と微分すると$ p(x) $が得られることになります。
累積分布関数は右肩上がりで上昇していくグラフを描きますので、その傾きがその時点での確率を指すということですね。図12を参照するとわかりやすいと思います。