非ネストモデルの一般化対数尤度比検定

2つのモデルAとBがあり、AがBにネストされている場合、いくつかのデータが与えられれば、MLEを使用してAとBのパラメーターを近似し、一般化対数尤度比検定を適用できることを理解しています。特に、テストの分布は自由度である必要があります。ここで、はとが持つパラメーターの数の差です。 $\chi^2$ $n$ $n$ $A$ $B$

ただし、とのパラメーター数が同じで、モデルがネストされていない場合はどうなりますか？つまり、それらは単に異なるモデルです。尤度比検定を適用する方法はありますか、それとも何か他のことができますか？ $A$ $B$

maximum-likelihood model-selection likelihood-ratio

— レンビック
ソース

回答:

論文Vuong、QH（1989）。モデル選択とネストされていない仮説の尤度比検定。Econometrica、307-333。完全な理論的処理とテスト手順があります。「厳密にネストされていないモデル」、「重複するモデル」、「ネストされたモデル」の3つの状況を区別し、仕様の誤りのケースも調べます。したがって、場合によっては、検定統計量がカイ2乗の線形結合として分布していることがわかります。

この論文は軽量ではなく、「既製の」試験手順も提案されていません。しかし、一応、その（約）3,000の引用は、その長所を示しており、古典的なテストフレームワークと情報理論的アプローチを組み合わせたものです。

— アレコスパパドプロス
ソース

一般化された尤度比検定は、あなたが言っているようには機能しません。たとえば、次の講義ノートを参照してください。

http://www.maths.manchester.ac.uk/~peterf/MATH38062/MATH38062%20GLRT.pdf

http://www.maths.qmul.ac.uk/~bb/MS_Lectures_12b.pdf

GLRTは、次のタイプの仮説に対して定義されます。

H_{0} : θ \in Θ_{0} v s . H_{1} : θ \in Θ_{1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

$\Theta_0\cap\Theta_1=\emptyset$ $\Theta_0\cup\Theta_1=\Theta$

説明するフレームワークについては、AICやBICなどの他のツールを使用してモデルを比較できます。また、完全なベイジアンに進んでもかまわない場合は、ベイズ係数も使用します。

— ウォーターマン
ソース

CVへようこそ。おそらく、私がこの質問に対する私自身の回答で言及している論文を調べることは、あなたにとって興味深いでしょう。

— Alecos Papadopoulos 2014

@AlecosPapadopoulos参考にさせていただきます。私はひと目見て、予想通り、そのようなGLRTが機能するための条件は非常に（非常に）制限されています。ですから、もっと安全なものに行きたいです。私はそれが冒とくに対して非常に引用された謝罪であることを知っています。

— ウォーターマン2014

@AlecosPapadopoulos特に、パラメーター空間条件（仮定A2）のコンパクトさは非常に魅力的ではありません。

— ウォーターマン2014

ラプラスのマグナムオーパスに関する非常に有益な（おそらく実際ではない）歴史の逸話は、ナポレオン大王がそれを読んでラプラスにコメントしたことです。その仮説」は、「神聖な」という概念が科学では必要ないことを意味し、したがって、冒とくはあり得ません。

— Alecos Papadopoulos 2014

...仮定A2に関する2番目のコメントについては、おそらく、関係する分布に対数凹型の密度がある場合を除いて、最尤フレームワーク全体がフィールドのニーズを完全に満たしていないことを意味します。

— Alecos Papadopoulos 2014