部分尤度、プロファイル尤度、および限界尤度の違いは何ですか？

これらの用語が使用されているのを見て、それらを混乱させ続けています。それらの違いについて簡単な説明はありますか？

尤度関数は通常、多くのパラメーターに依存します。アプリケーションに応じて、通常、これらのパラメーターのサブセットのみに関心があります。たとえば、線形回帰では、通常、関心は誤差分散ではなく勾配係数にあります。

関心のあるパラメーターを$\beta$で表し、主に関心のないパラメーターを$\theta$表します。推定問題にアプローチする標準的な方法は、尤度関数を最大化して、$\beta$と$\theta$推定値を取得することです。ただし、主な関心は部分的な$\beta$、プロファイルと限界尤度は、θを推定せずに$\beta$を推定する代替方法を提供します。$\theta$

違いを見るために、$L(\beta, \theta|\mathrm{data})$標準尤度を示します。

最尤法

L （β 、θ | d a t a）を最大化する$\beta$と$\theta$を見つけます。$L(\beta, \theta|\mathrm{data})$

部分尤度

尤度関数を次のように記述できる場合：

$L_1(\beta|\mathrm{data})$

プロフィール尤度

$\theta$$\beta$$\theta$

$\theta = g(\beta)$

限界尤度

$\theta$$\theta$$\beta$

完全に指定された尤度関数で迷惑パラメーターを扱う場合、3つすべてが使用されます。

限界尤度は、理論上迷惑パラメータを除去するための主要な方法です。これは真の尤度関数です（つまり、観測データの（限界）確率に比例します）。

部分尤度は、一般的に真の尤度ではありません。ただし、場合によっては、漸近的推論の可能性として扱うことができます。たとえば、コックス比例ハザードモデルは、それが発生した場合、ベースラインハザードを指定せずに、データ（T1> T2> ..）で観測されたランキングに関心があります。エフロンは、部分尤度がさまざまなハザード関数の情報をほとんどまたはまったく失うことを示しました。

プロファイルの尤度は、多次元の尤度関数と関心のある単一のパラメーターがある場合に便利です。迷惑なSを各固定T（対象のパラメーター）のMLEに置き換えることで指定されます。つまり、L（T）= L（T、S（T））です。この方法で得られるMLEには潜在的なバイアスがありますが、これは実際にはうまく機能します。限界尤度はこのバイアスを補正します。