AICは異なるタイプのモデル間で比較できますか?


27

AIC(赤池の情報量基準)を使用して、Rの非線形モデルを比較しています。異なるタイプのモデルのAICを比較することは有効ですか?具体的には、glmで近似されたモデルと、glmer(lme4)で近似されたランダム効果項を持つモデルを比較しています。

そうでない場合、そのような比較を行う方法はありますか?または、アイデアは完全に無効ですか?

回答:


12

場合によります。AICは対数尤度の関数です。両方のタイプのモデルが同じ方法で対数尤度を計算する(つまり、同じ定数を含める)場合、モデルがネストされている場合は可能です。

私はそれを合理的に確信してglm()おり、lmer()同等の対数尤度を使用していません。

ネストされたモデルについての論点も議論の余地があります。AICは、ネストされたモデルに対してのみ有効であると言う人もいます。これは、理論がどのように提示/実行されるかを示しています。他の人は、あらゆる種類の比較にそれを使用します。


私の理解では、lme4はデフォルトでREMLを使用し、glmはMLを使用します。REML = FALSEを設定してlmerにMLを使用させた場合、それらは比較可能です。
russellpierce

Gavinのコメントに加えて、モデルで何をしたいかにも依存します。予測のためのモデルか、トーマスはThomas約を探していますか?(私は思う)
-suncoolsu

3
@drnexus:それだけでは不十分だと思います。対数尤度計算で同じ正規化定数が適用されていることを確認する必要があります。
モニカの復職-G.シンプソン

2
@Thomas:そのためには、コードを確認するか、コードを書いた人に確認する必要があります。一般に、異なるソフトウェア/パッケージ/機能間で尤度が比較できないと仮定します。
モニカの復職-G.シンプソン

1
@ user3490ソフトウェアおよび推定値を取得するために使用されるアルゴリズムに依存します。一般的に、それらが同じであると確信していない限り、それらは同じではないと推測します。
モニカの復職-G.シンプソン

4

これは、私がしばらく興味を持っていた素晴らしい質問です。

同じファミリーのモデル(つまり、k次の自己回帰モデルまたは多項式)の場合、AIC / BICは非常に理にかなっています。それ以外の場合は、それほど明確ではありません。対数尤度を(定数項を使用して)正確に計算する必要がありますが、Bayes Factorsなどのより複雑なモデル比較を使用する方がおそらく優れています(http://www.jstor.org/stable/2291091)。

モデルの損失/エラー関数が同じ場合、代替策の1つは、交差検証された対数尤度を比較することです。通常、AIC / BICが特定の状況で理にかなっていると確信できないときに、私がやろうとしていることです。


0

場合によっては、AICは、異なる順序の異なるARIMAモデルのように、同じタイプのモデルを比較することさえできないことに注意してください。予測の引用ロブ・J・ハインドマンとジョージ・アタナソポロスによる原則と実践

dpqdpq


確かに、しかし重要な点は、比較が問題になるのはモデルのタイプではなく、尤度が定義されるデータであるということです。
リチャードハーディ
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.