フィッシャーのスチューデントのt分布に対する情報行列は予想されますか？

単変量スチューデントのt分布に対して予想されるフィッシャーの情報マトリックスを導き出すリソースをオンラインで見つけるのに問題があります。誰かがそのようなリソースを知っていますか？

t分布に対して予想されるフィッシャーの情報マトリックスを導出する既存のリソースがない場合、私はそれを自分で導出しようとしていますが、行き詰まっています。これまでの私の仕事は次のとおりです。

$y_i \sim t(\mu, \sigma^2, v)$ ここで、は自由度（df）パラメーターです（固定と仮定）。次に、 $v$

\begin{aligned} f (y_{i}) & = \frac{Γ (\frac{v + 1}{2})}{Γ (\frac{v}{2}) \sqrt{π v σ^{2}}} (1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2})^{\frac{- (v + 1)}{2}} \end{aligned}

$\begin{align*} f(y_i) &= \frac{\Gamma(\frac{v+1}{2})}{\Gamma(\frac{v}{2})\sqrt{\pi v \sigma^2}}\big(1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big)^{\frac{-(v+1)}{2}} \end{align*}$

したがって、次の対数尤度関数があります。

\begin{aligned} l o g f (y_{i}) = l o g Γ (\frac{v + 1}{2}) - l o g Γ (\frac{v}{2}) - \frac{1}{2} l o g (π v σ^{2}) + \frac{- (v + 1)}{2} l o g [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}] \end{aligned}

$\begin{align*} log f(y_i)=log\Gamma(\frac{v+1}{2})-log\Gamma(\frac{v}{2})-\frac{1}{2}log(\pi v \sigma^2)+ \frac{-(v+1)}{2}log\big[1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big] \end{align*}$

ここで一次微分方程式：

\begin{aligned} \frac{\partial}{\partial μ} l o g f (y_{i}) = \frac{v + 1}{2} \frac{\frac{2}{v σ^{2}} (y_{i} - μ)}{1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}} \\ \frac{\partial}{\partial σ^{2}} l o g f (y_{i}) = \frac{- 1}{2 σ^{2}} - \frac{(v + 1)}{2} \frac{\frac{- 1}{v σ^{4}} (y_{i} - μ)^{2}}{1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}} \end{aligned}

$\begin{align*} &\frac{\partial}{\partial \mu}logf(y_i)=\frac{v+1}{2}\frac{\frac{2}{v\sigma^2}(y_i-\mu)}{1+\frac{1}{v\sigma^2}(y_i-\mu)^2} \\ & \frac{\partial}{\partial \sigma^2}logf(y_i)= \frac{-1}{2\sigma^2}-\frac{(v+1)}{2} \frac{\frac{-1}{v\sigma^4}(y_i-\mu)^2}{1+\frac{1}{v\sigma^2}(y_i-\mu)^2} \end{align*}$

そしてここに2階微分方程式があります：

\begin{aligned} \frac{\partial}{\partial μ^{2}} l o g f (y_{i}) = \frac{v + 1}{2} \frac{\frac{- 2}{v σ^{2}} + \frac{2}{d v^{2} σ^{4}} (y_{i} - μ)^{2}}{(1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2})^{2}} \\ \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) = \frac{v + 1}{2} {[\frac{2}{v σ^{2}} - \frac{4}{v^{2} σ^{6}} (y_{i} - μ)^{2}] [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{2} - [\frac{- 2}{v σ^{2}} + \frac{2}{v^{2} σ^{4}} (y_{i} - μ)^{2}] * 2 [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}] [\frac{- 1}{v σ^{4}} (y_{i} - μ)^{2}]} / {[1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{4}} . . . . . really messy! \\ \frac{\partial}{\partial (σ^{2})^{2}} l o g f (y_{i}) = \frac{1}{2 σ^{4}} - \frac{(v + 1)}{2} \frac{\frac{1}{v σ^{6}} (y_{i} - μ)^{2}}{[1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{2}} \end{aligned}

$\begin{align*} &\frac{\partial}{\partial \mu^2}logf(y_i)=\frac{v+1}{2}\frac{\frac{-2}{v\sigma^2}+\frac{2}{dv^2\sigma^4}(y_i-\mu)^2}{\big(1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big)^2} \\ & \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) =\frac{v+1}{2} \Big\{[\frac{2}{v\sigma^2}-\frac{4}{v^2\sigma^6}(y_i-\mu)^2][1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^2-[\frac{-2}{v\sigma^2}+\frac{2}{v^2\sigma^4}(y_i-\mu)^2]*2[1+\frac{1}{v\sigma^2}(y_i-\mu)^2][\frac{-1}{v\sigma^4}(y_i-\mu)^2]\Big\}/\Big\{ [1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^4\Big\}.....\text{really messy!} \\ &\frac{\partial}{\partial (\sigma^2)^2}logf(y_i)=\frac{1}{2\sigma^4}-\frac{(v+1)}{2}\frac{\frac{1}{v\sigma^6}(y_i-\mu)^2}{[1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^2} \end{align*}$

最後に、フィッシャー情報行列が期待以下のように計算される：

\begin{aligned} I = - E ([\begin{matrix} \frac{\partial^{2}}{\partial μ^{2}} l o g f (y_{i}) & \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) \\ \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) & \frac{\partial^{2}}{\partial (σ^{2})^{2}} l o g f (y_{i}) \end{matrix}]) \end{aligned}

$\begin{align*} \boldsymbol{I}= -\mathbb{E}\Big(\begin{bmatrix} \frac{\partial^2}{\partial \mu^2}logf(y_i) & \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) \\ \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) & \frac{\partial^2}{\partial (\sigma^2)^2}logf(y_i) \end{bmatrix}\Big) \end{align*}$

しかし、私はこれらの期待をどのように計算するかわかりません。これを行ったリソースを知っている人はいますか？正直なところ、私が関心を持っているのはだけです。誰かが少なくとも私がこれを計算するのを助けることができますか？ $-\mathbb{E}\big[\frac{\partial^2}{\partial (\sigma^2)^2}logf(y_i)\big]$

probability t-distribution fisher-information

— bayes003
ソース

回答:

Lange et al 1989が付録Bの多変量t分布に対して予想されるフィッシャーの情報を導き出したことが私の注意を引きました。したがって、私が望む答えを得ました。

特に、Langeらの結果を使用して、1変量t分布（固定自由度パラメーター）について次のフィッシャーの情報行列を導出しました。 $v$

\begin{aligned} I = [\begin{matrix} \frac{v + 1}{(v + 3) σ^{2}} & 0 \\ 0 & \frac{v}{2 (v + 3) σ^{4}} \end{matrix}] \end{aligned}

$\begin{align*} \boldsymbol{I}=\begin{bmatrix} \frac{v+1}{(v+3)\sigma^2} & 0 \\ 0 & \frac{v}{2(v+3)\sigma^4} \end{bmatrix} \end{align*}$

— bayes003
ソース

フィッシャーの情報マトリックスが可変自由度パラメーターについて導出された参照、つまり、スケール、場所、および自由度がすべて提供されている3次元フィッシャーの情報マトリックスはありますか？

— 2017

同じ質問があります。nuパラメーターを含む3x3フィッシャー行列はありますか？

— Riemann1337 2017年

上記の結果はFisherInformation機能で正しく確認されましたmathStatica

— wolfies

数式最初に、関係する積分の変数を変更することにより、計算でとることができることにしてください。

I (μ, σ^{2}) = E [(\begin{matrix} {(\frac{\partial}{\partial μ} \log f (Y))}^{2} & (\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y)) \\ (\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y)) & {(\frac{\partial}{\partial σ^{2}} \log f (Y))}^{2} \end{matrix})] .

$\mathcal{I}(\mu, \sigma^2) = \mathbb{E}\left[\begin{pmatrix}{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 & \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right) \\ \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right) & {\left(\frac{\partial}{\partial\sigma^2} \log f(Y)\right)}^2 \end{pmatrix} \right].$

y \mapsto y - μ

$y \mapsto y-\mu$

μ = 0

$\mu=0$

計算は次の積分に依存しています：この等式は、変数と、ベータ素数分布の密度を利用して得られます。

I (λ, a, b) := \int_{0}^{\infty} y^{2 a - 1} {(1 + \frac{1}{λ} y^{2})}^{- \frac{2 a + b}{2}} d y = \frac{λ^{a}}{2} B (a, \frac{b}{2}) .

$I(\lambda, a, b) := \int_0^\infty y^{2a-1}\left(1+\frac{1}{\lambda}y^2\right)^{-\frac{2a+b}{2}} \textrm{d}y = \frac{\lambda^a}{2} B\left(a, \frac{b}{2}\right).$

y \mapsto y^{2}

$y \mapsto y^2$

が偶数の整数である場合、被積分関数は偶数の関数であることに注意してください。したがって、 $2a-1$

J (λ, a, b) := \int_{- \infty}^{+ \infty} y^{2 a - 1} {(1 + \frac{1}{λ} y^{2})}^{- \frac{p + 1 + b}{2}} d y = 2 I (λ, a, b) = λ^{a} B (a, \frac{b}{2}) .

$J(\lambda, a, b) := \int_{-\infty}^{+\infty} y^{2a-1}\left(1+\frac{1}{\lambda}y^2\right)^{-\frac{p+1+b}{2}} \textrm{d}y = 2 I(\lambda, a, b) = \lambda^a B\left(a, \frac{b}{2}\right).$

最初の計算についてのみ詳しく説明します。集合密度の正規化定数。

K (ν, σ) = \frac{1}{B (\frac{1}{2}, \frac{ν}{2})} \frac{1}{\sqrt{ν σ^{2}}},

$K(\nu, \sigma)=\frac{1}{B\left(\frac12,\frac{\nu}{2}\right)}\frac{1}{\sqrt{\nu \sigma^2}},$

一つは持ってい以来、見つかります 2番目の計算は簡単です。

\begin{aligned} E [{(\frac{\partial}{\partial μ} \log f (Y))}^{2}] = K (ν, σ) {(\frac{ν + 1}{ν σ^{2}})}^{2} J (ν σ^{2}, \frac{3}{2}, ν + 2) . \end{aligned}

$\begin{align} \mathbb{E}\left[{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 \right] = K(\nu, \sigma){\left(\frac{\nu+1}{\nu\sigma^2}\right)}^2 J\left(\nu\sigma^2, \frac{3}{2}, \nu+2\right). \end{align}$

\frac{B (\frac{1}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν + 2}{2})} = \frac{B (\frac{1}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν}{2})} \frac{B (\frac{3}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν + 2}{2})} = \frac{(ν + 1)}{1} \frac{(ν + 3)}{ν}

$\frac{B\left(\frac12,\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu+2}{2}\right)} = \frac{B\left(\frac12,\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu}{2}\right)}\frac{B\left(\frac{3}{2},\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu+2}{2}\right)} = \frac{(\nu+1)}{1}\frac{(\nu+3)}{\nu}$

E [{(\frac{\partial}{\partial μ} \log f (Y))}^{2}] = \frac{ν}{ν + 3} (ν + 1) {(ν σ^{2})}^{- 1 / 2 - 2 + 3 / 2} = \frac{ν + 1}{(ν + 3) σ^{2}} .

$\mathbb{E}\left[{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 \right] = \frac{\nu}{\nu+3}(\nu+1){(\nu\sigma^2)}^{-1/2-2+3/2} = \frac{\nu+1}{(\nu+3)\sigma^2}.$

E [(\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y))] = 0

$\mathbb{E}\left[ \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right)\right] = 0$ は、奇数関数の積分のみを含むためです。

最後に、の計算はより面倒で、スキップします。その計算には、偶数の整数を持つ積分れ、その値は上記で与えられます。

E [{(\frac{\partial}{\partial σ^{2}} \log f (Y))}^{2}]

$\mathbb{E}\left[{\left(\frac{\partial}{\partial\sigma^2} \log f(Y)\right)}^2 \right]$

J (ν σ^{2}, a, b)

$J(\nu\sigma^2, a, b)$

2 a - 1

$2a-1$

計算を実行し、を見つけましたそしてこれは

\frac{{(ν + 1)}^{2}}{4 {(ν σ^{4})}^{2}} K (ν, σ^{2}) J (ν σ^{2}, \frac{5}{2}, ν) - \frac{ν + 1}{2 ν σ^{6}} K (ν, σ^{2}) J (ν σ^{2}, \frac{3}{2}, ν) + \frac{1}{4 σ^{4}}

$\frac{{(\nu+1)}^2}{4{(\nu\sigma^4)}^2} K(\nu, \sigma^2) J\left(\nu\sigma^2, \frac{5}{2},\nu\right) - \frac{\nu+1}{2\nu\sigma^6} K(\nu, \sigma^2) J\left(\nu\sigma^2, \frac{3}{2},\nu\right) + \frac{1}{4\sigma^4}$

\frac{ν}{2 (ν + 3) σ^{4}} .

$\frac{\nu}{2(\nu+3)\sigma^4}.$

— ステファンローラン
ソース