PRML悪戦苦闘(演習問題 2.6)

2.6

問題文

ベータ分布の平均・分散・およびモードがそれぞれ

(1) ${\bf E}[\mu]=\frac{a}{a+b}$

(2) $var[\mu]=\frac{ab}{(a+b)^2 (a+b+1)}$

(3) $mode[\mu]=\frac{a-1}{a+b-2}$

になることを示せ

方針

(1),(2)
代入してひたすら変形。xが自然数のときのガンマ関数の性質 $\Gamma(x+1)=x!$ を使える形にしていきます。

(3)
最頻値なので、ベータ分布の式を $\mu$ について微分して、イコール0になる条件のうち、極大値を取る時が答えです。

解答

(1)
${ \displaystyle \begin{eqnarray*} {\bf E}[\mu]&=&\int_0^1 \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}\mu^{a-1}(1-\mu)^{b-1}\mu d\mu\\ &=&\int_0^1 \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}\mu^{a}(1-\mu)^{b-1} d\mu\\ &=&\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}*\frac{\Gamma(a+1)\Gamma(b)}{\Gamma(a+b+1)}\\ &=&\frac{\Gamma(a+b)\Gamma(a+1)}{\Gamma(a)\Gamma(a+b+1)}\\ &=&\frac{(a+b+1)!a!}{(a-1)!(a+b)!}\\ &=&\frac{a!}{(a-1)!(a+b)}=\frac{a}{(a+b)} \end{eqnarray*} }$

(2)
${ \displaystyle \begin{eqnarray*} {\bf E}[\mu^2]&=&\int_0^1 \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}\mu^{a-1}(1-\mu)^{b-1}\mu^2 d\mu\\ &=&\int_0^1 \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}\mu^{a+1}(1-\mu)^{b-1} d\mu\\ &=&\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}*\frac{\Gamma(a+2)\Gamma(b)}{\Gamma(a+b+2)}\\ &=&\frac{(a+b+1)!(a+1)!}{(a-1)!(a+b+1)!}=\frac{(a+1)a}{(a+b)(a+b+1)} \end{eqnarray*} }$

${ \displaystyle \begin{eqnarray*} var[\mu]&=&{\bf E}[\mu^2]-{\bf E}[\mu]^2\\ &=&\frac{(a+1)a}{(a+b)(a+b+1)}-\frac{a^2}{(a+b)^2}\\ &=&\frac{a(a+1)(a+b)-a^2(a+b+1)}{(a+b)^2 (a+b+1)}\\ &=&\frac{ab}{(a+b)^2 (a+b+1)} \end{eqnarray*} }$

(3)

ベータ分布の式は $Beta(\mu|a,b)=\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)} \mu^{a-1} (1-\mu)^{b-1}$ ですが、 $\mu$ の変化による増減を考えるので $\mu^{a-1} (1-\mu)^{b-1}$ の部分のみに注目します。

${ \displaystyle \begin{eqnarray*} (\mu^{a-1} (1-\mu)^{b-1})'&=&(a-1)\mu^{a-2}(1-\mu)^{b-1}-\mu^{a-1}(b-1)(1-\mu)^{b-2}\\ &=&(1-\mu)^{b-2}\mu^{a-2}\{(a-1)(1-\mu)-\mu(b-1) \}\\ &=&(1-\mu)^{b-2}\mu^{a-2}\{a-1-\mu a-\mu b+2\mu \}\\ &=&(1-\mu)^{b-2}\mu^{a-2}\{a-1-\mu(2+a+b)\}=0 \end{eqnarray*} }$