AICとBICがまったく異なるモデルを選択する可能性はありますか?


12

1つの応答変数と6つの共変量を含むポアソン回帰モデルを実行しています。AICを使用したモデル選択により、すべての共変量と6つの交互作用項を持つモデルが作成されます。ただし、BICでは、共変量が2つのみで相互作用項がないモデルが作成されます。非常によく似た2つの基準がまったく異なるモデル選択をもたらす可能性はありますか?


6
2つのメトリックから異なるモデルの推奨事項を取得できない場合、2つのメトリックはありません。常に1つを使用します。
グレゴール-モニカを

「完全に異なる」という言葉は、モデルが離散パラメーターのセットから選択した結果である場合、解釈するのが困難です。
BallpointBen

回答:


21

確かに可能です。https://methodology.psu.edu/AIC-vs-BICで説明されているように、「BICはモデルの複雑さをより厳しく罰します。AICがBICよりも大きなモデルを選択する場合にのみ異論を唱える必要があります。」

目標が適切な予測モデルを識別することである場合は、AICを使用する必要があります。目標が適切な説明モデルを特定することである場合は、BICを使用する必要があります。ロブ・ハイドマンは
https://robjhyndman.com/hyndsight/to-explain-or-predict/でこの推奨事項をうまくまとめています

「AICは予測のモデル選択により適しています。これは、回帰のleave-one-out cross-validationまたは時系列のone-step-cross-validationと漸近的に同等であるためです。一方、 BICは一貫性があるため、説明のためのモデル選択により適しています。」

推奨事項は、Galit Shmueliの論文「説明するか、予測するか」、Statistical Science、25(3)、289-310(https://projecteuclid.org/euclid.ss/1294167961)から来ています

補遺:

3番目のタイプのモデリング-記述モデリング-がありますが、AICとBICのどちらが最適な記述モデルを識別するのに最適であるかについての参考資料は知りません。ここにいる他の人たちが彼らの洞察に耳を傾けることを願っています。


6
lnn<2n7

いい視点ね!サンプルサイズが7以下の場合、モデルの選択は想定外です。😀
イザベラGhement

3番目のタイプのモデリング-記述モデリング-がありますが、AICとBICのどちらが最適な記述モデルを識別するのに最適であるかについての参考資料は知りません。ここにいる他の人たちが彼らの洞察に耳を傾けることを願っています。それは答えですか、それとも質問ですか?
サブハッシュC.ダバール

@ subhashc.davar:まだ答えがありません-Galit Shmueliにメールを送り、そのことについて彼女に考えを尋ねたいと思います。
イザベラギーメント

1
「記述的」の意味を理解し、それを真剣に受け止めた場合、最適な記述的モデルの特定について話すことは理にかなっていない。
GUNG -復活モニカ

10

簡単な答え:はい、可能です。2つは、推定パラメーターの数に基づいて異なるペナルティを適用します(AICの場合は2k対BICの場合はln(n)xk。kは推定パラメーターの数、nはサンプルサイズです)。したがって、パラメータの追加による尤度ゲインが小さい場合、BICはAICに異なるモデルを選択する場合があります。ただし、この効果はサンプルサイズに依存します。


1
nが上記の方程式のサンプルサイズであることを明示するとよいでしょう
。fabiob
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.