フィッシャー情報マトリックスが半正定値であるのはなぜですか?


18

ましょう。フィッシャー情報マトリックスは次のように定義されます。θRn

I(θ)i,j=E[2log(f(X|θ))θiθj|θ]

フィッシャー情報マトリックスが半正定値であることをどのように証明できますか?


7
スコアとそれ自体の外積の期待値ではありませんか?
ニールG

回答:


19

これをチェックしてください:http : //en.wikipedia.org/wiki/Fisher_information#Matrix_form

定義から、

j=Eθ[ログfバツΘバツθjログfバツΘバツθ]
のためにj=1k、で=/θj式は、規則性の条件下でこれから派生しています。

非ヌルベクトル、 あなたは=あなたは1あなたはkRn

j=1kあなたはjあなたはj=j=1kあなたはEθ[ログfバツΘバツθjログfバツΘバツθ]あなたはj=Eθ[=1kあなたはログfバツΘバツθj=1kあなたはjjログfバツΘバツθ]=Eθ[=1kあなたはログfバツΘバツθ2]0

このコンポーネントごとの表記がすぎる場合、フィッシャー情報行列はとして記述できることに注意してください。スコアベクトルは、 H=jH=Eθ[SS]S

S=1ログfバツΘバツθkログfバツΘバツθ

したがって、1行の

あなたはHあなたは=あなたはEθ[SS]あなたは=Eθ[あなたはSSあなたは]=Eθ[||Sあなたは||2]0。


3
(+1)良い答えとおかえりなさい、禅。私はあなたの休止の長さを考えると永久にあなたを失ったかもしれないと心配になっていた。それは本当に残念だったでしょう!
枢機

5

警告:一般的な答えではありません!

がフルランクの指数族に対応する場合、対数尤度の負のヘッセ行列は十分な統計量の共分散行列です。共分散行列は常に正の半正定です。フィッシャー情報は正の半正定値行列の凸の組み合わせなので、正の半正定値でなければなりません。fバツ|θ

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.