reading and coding ...

ガンマ分布とベータ分布

4/8/2020, 12:02:16 PM - 89 days ago

未だに忘れがちなので, ここにまとめておこう

ガンマ関数

α>0\alpha > 0 として,

Γ(α)=0xα1exdx\Gamma(\alpha) = \int_{0}^{\infty} x^{\alpha - 1} e^{-x} dx
性質
  • 正の整数 nn に対して, Γ(n)=(n1)!\Gamma(n) = (n-1)!
  • α>1\alpha > 1 において, Γ(α)=(α1)Γ(α1)\Gamma(\alpha) = (\alpha - 1) \Gamma(\alpha - 1)
  • Γ(12)=π\Gamma\left(\dfrac{1}{2}\right) = \sqrt{\pi}. これは, 二重積分で求まるので有名な ex2dx=π\displaystyle\int_{-\infty}^{\infty} e^{-x^2} dx = \sqrt{\pi} に帰着させることでわかる

ガンマ分布

α,β>0\alpha, \beta > 0 をパラメータとして, 確率密度関数が

f(x)=βαΓ(α)xα1eβx(0x<)f(x) = \dfrac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{- \beta x} \quad (0 \leq x < \infty)

で定義されるような分布(Γ(α,β)\Gamma(\alpha, \beta) と表記)

性質
  • 積率母関数は (ββt)α(<t<β)\left(\dfrac{\beta}{\beta - t}\right)^\alpha (- \infty < t < \beta) (比較的簡単に導出できるので自分で確認しておこう)

  • kk 次のモーメントは、

    E[Xk]=0xkβαΓ(α)xα1eβxdx=0βαΓ(α)xα+k1eβxdx=Γ(α+k)Γ(α)βk0βα+kΓ(α+k)xα+k1eβxdx=Γ(α+k)Γ(α)βk=α(α+1)...(α+k1)βk\begin{aligned} E[X^k] &= \int_0^{\infty} x^k \dfrac{\beta^{\alpha}}{\Gamma(\alpha)} x^{\alpha - 1} e^{- \beta x} dx \\ &= \int_0^{\infty} \dfrac{\beta^{\alpha}}{\Gamma(\alpha)} x^{\alpha + k - 1} e^{- \beta x} dx \\ &= \dfrac{\Gamma(\alpha + k)}{\Gamma(\alpha) \beta^k} \int_0^{\infty} \dfrac{\beta^{\alpha + k}}{\Gamma(\alpha + k)} x^{\alpha + k - 1} e^{- \beta x} dx \\ &= \dfrac{\Gamma(\alpha + k)}{\Gamma(\alpha) \beta^k} \\ &= \dfrac{\alpha (\alpha + 1) ... (\alpha + k - 1)}{\beta^k} \end{aligned}

    このように, 直接計算して普通に求められる

  • α=1\alpha = 1 としたものは指数分布である

  • X1,...XnX_1, ... X_n が互いに独立に指数分布 Γ(1,β)\Gamma(1, \beta) にしたがうとき, Y=X1+X2+...+XnY = X_1 + X_2 + ... + X_nΓ(α,β)\Gamma(\alpha, \beta) にしたがう.

    • (証明1)X1+X2+...+XkX_1 + X_2 + ... + X_kΓ(k,β)\Gamma(k, \beta) にしたがうならば, X1+X2+...+Xk+1X_1 + X_2 + ... + X_{k+1}Γ(k+1,β)\Gamma(k + 1, \beta) にしたがうことを帰納法により示す. これは, 畳み込み積分によりできる.

      0y(βeβx)βkΓ(k)(yx)k1eβ(yx)dx=βk+1Γ(k)eβy0y(yx)k1dx=βk+1Γ(k)eβyykk=βk+1Γ(k+1)ykeβy\begin{aligned} &\int_{0}^{y} (\beta e^{-\beta x}) \cdot \dfrac{\beta^k}{\Gamma(k)} (y - x)^{k-1} e^{-\beta(y - x)} dx \\ =& \dfrac{\beta^{k+1}}{\Gamma(k)} e^{-\beta y} \int_0^y (y - x)^{k-1} dx \\ =& \dfrac{\beta^{k+1}}{\Gamma(k)} e^{-\beta y} \dfrac{y^k}{k} \\ =& \dfrac{\beta^{k+1}}{\Gamma(k+1)} y^k e^{-\beta y} \\ \end{aligned}
    • (証明2)積率母関数の性質(X,YX, Y が独立のとき MX+Y(t)=MX(t)MY(t)M_{X+Y}(t) = M_X(t) M_Y(t))を使う. 指数分布 f(x)=βeβxf(x) = \beta e^{- \beta x} の積率母関数が ββt\dfrac{\beta}{\beta - t} であることから, ほぼ明らか

  • 自由度 nn のカイ二乗分布 χ2(n)\chi^2(n)Γ(n2,12)\Gamma(\frac{n}{2}, \frac{1}{2}) である

  • ポアソン分布の共役事前分布である

ベータ関数

s,t>0s, t > 0 として,

B(s,t)=01xs1(1x)t1dxB(s, t) = \int_{0}^{1} x^{s-1} (1-x)^{t-1} dx
性質
  • B(s,t)=B(t,s)B(s, t) = B(t, s)

  • B(s,t)=Γ(s)Γ(t)Γ(s+t)B(s, t) = \dfrac{\Gamma(s)\Gamma(t)}{\Gamma(s+t)}

  • 0π2sinαθcosβθdθ\displaystyle\int_{0}^{\frac{\pi}{2}} \sin^\alpha \theta \cos^\beta \theta d \theta の形の積分は, x=sin2θx = \sin^2 \theta 等の置換によりベータ関数に帰着できる

  • 0xα(x+k)βdx\displaystyle\int_{0}^{\infty} \dfrac{x^\alpha}{(x + k)^\beta} dx の形の積分は, y=kx+ky = \dfrac{k}{x + k} 等の置換によりベータ関数に帰着できる

ベータ分布

p,q>0p, q > 0 をパラメータとして, 確率密度関数が

f(x)=1B(p,q)xp1(1x)q1(0<x<1)f(x) = \dfrac{1}{B(p, q)} x^{p-1} (1 - x)^{q - 1} \quad (0 < x < 1)

で定義されるような分布(Beta(p,q)Beta(p, q) と表記)

性質
  • 正の整数 p,qp, q に対して, X1,...Xp+q1X_1, ... X_{p + q - 1} が互いに独立に標準一様分布 U(0,1)U(0, 1) に従うとき, 順序統計量 X(p)X_{(p)}(小さい方から pp 番目, 大きい方から qq 番目のもの)が従う分布になっている

    • 実際, U(0,1)U(0,1) の 確率密度関数 f(x)=1f(x) = 1, 分布関数 F(x)=xF(x) = x に対して,
      n!(p1)!(np)!F(x)p1f(x)(1F(x))np\dfrac{n!}{(p-1)!(n-p)!} F(x)^{p-1} \cdot f(x) \cdot (1 - F(x))^{n-p}
      を計算すると, ベータ分布の確率密度関数と一致している
  • X1,X2X_1, X_2 が互いに独立にそれぞれガンマ分布 Γ(α1,β)\Gamma(\alpha_1, \beta) とガンマ分布 Γ(α2,β)\Gamma(\alpha_2, \beta) にしたがうとき, Y=X1X1+X2Y = \dfrac{X_1}{X_1 + X_2} の従う分布は Beta(α1,α2)Beta(\alpha_1, \alpha_2) である

  • 二項分布の共役事前分布である

Reference

  • 『リスクを知るための確率・統計入門』(岩田)