AICおよびBIC番号の解釈

23

AIC（赤池情報量基準）とBIC（ベイズ情報量基準）の推定値を解釈する方法の例を探しています。

BIC間の負の差は、一方のモデルが他方のモデルの事後オッズとして解釈できますか？これを言葉にするにはどうすればよいですか？たとえば、BIC = -2は、他のモデルよりも優れたモデルのオッズが約ことを意味する場合があります。 $e^2= 7.4$

基本的なアドバイスはこの新人によって高く評価されています。

interpretation aic bic

— ファン
ソース

第2章をご覧ください。セクション2.6-Googleの書籍で部分的に利用可能です-は特に役立ちます。books.google.se/…（参照：モデル選択とKenneth P. BurnhamおよびDavid R. Andersonによるマルチモデル推論

— 。SpringerVerlag

6

モデルに対するの先験的モデルセットがrecaledにすることができるモデルセットの最良のモデルがありますここで。我々が使用できる（証拠の強度を推定するための値をモデルセット内のすべてのモデルのために）ここで、 $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ これは、多くの場合、アプリオリモデルセットを与えられたモデル「証拠の重み」と呼ばれます。、増加モデルを示唆する減少あまり妥当です。これらの値は、アプリオリモデルセットが与えられた場合にモデルが最良のモデルである確率として解釈できます。また、モデルの相対的な可能性を計算可能性がありモデル対として

w_{i} = \frac{e^{(- 0.5 Δ_{i})}}{\sum_{r = 1}^{R} e^{(- 0.5 Δ_{i})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

。たとえば、

および

場合、モデル

はモデル

8倍の確率であると言えます。

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

注、モデル1は、最良のモデル（最小である場合）。Burnham and Anderson（2002）は、これを証拠比と呼んでいます。この表は、最良のモデルに関してエビデンス比がどのように変化するかを示しています。 $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

参照

バーナム、KP、およびDRアンダーソン。2002.モデル選択とマルチモデル推論：実用的な情報理論的アプローチ。第二版。スプリンガー、ニューヨーク、アメリカ。

アンダーソン、DR2008。ライフサイエンスにおけるモデルベースの推論：証拠の入門書。スプリンガー、ニューヨーク、アメリカ。

— リオレイダー
ソース

特に合計のインデックスが合計内に表示されないため、

何を指すのかを明確にしてください。DOES

モデル空間にまたがりますか？

r

$r$

R

$R$

— dopexxx

モデルセットにはRモデルがあります。

— リオレイダー

3

そのようなAICやBICの単純な解釈はないと思います。これらは両方とも対数尤度を取り、推定されるパラメーターの数に対してペナルティを適用する数量です。AICの具体的なペナルティは、1974年からの論文で赤池が説明しています。BICは、1978年の論文でGideon Schwarzによって選択され、ベイジアンの議論に動機付けられています。

— マイケル・R・チャーニック
ソース

2

ただし、ペナルティは、特定のサイズの事前優先モデルとして解釈できます。その事前確率（情報理論上の正当性がある）を採用する場合、IC値から事後オッズ比を直接計算できます。また、@ RioRaiderは赤池の重みに言及しています。これは、特定のモデルがKL発散の観点からセットからの最適なモデルである確率を与えます。（参照 -p.800を参照）。

— デビッドJ.ハリス

1

おそらく、BICをベイズ因子の近似の結果として使用します。したがって、事前の配布を（多かれ少なかれ）考慮しません。モデル選択段階のBICは、モデルを比較するときに役立ちます。完全にBICを理解するために、私は非常記事（秒4を。）読んでお勧めベイズファクター：http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf サプリメントの知識を持つ：のhttp：// WWW .stat.washington.edu / raftery / Research / PDF / kass1995.pdf

— ロバート
ソース