個々のサンプルの確率が0であるのに、なぜMLEが理にかなっていますか？

これは、いくつかの古い統計を確認しているときに感じた奇妙な考えであり、何らかの理由でその答えを考えることができないようです。

連続PDFは、特定の範囲の観測値の密度を示します。すなわち、場合$X \sim N(\mu,\sigma^2)$、例えば、次に実現が間に入る確率とBは単に∫ bは φを（X ）D Xここでφは、標準正規の密度です。$a$$b$$\int_a^{b}\phi(x)dx$$\phi$

たとえば$\mu$パラメーターのMLE推定を行うことを考えるとき、たとえば$N$ランダム変数$X_1 .. X_N$の結合密度を書きます。。X Nとする対数尤度WRT分化$\mu$、0に等しく設定し、について解きます$\mu$。しばしば与えられる解釈は「データが与えられると、どのパラメーターがこの密度関数をもっともらしいものにするか」です。

私を悩ませている部分はこれです：$N$ rvの密度があり、特定の実現、たとえばサンプルを取得する確率は正確に0です。データ（繰り返しますが、実際のサンプルを観察する確率は正確に0です）？

私が思いつく唯一の合理化は、領域内の積分（したがって、この領域内のデータを観測する確率）が最高になるように、観測されたサンプルの周囲で PDFを可能な限りピークにしたいということです。

任意のサンプルの確率、$\mathbb{P}_\theta(X=x)$、ゼロに等しく、まだ一つのサンプルは、確率分布から引くことによって実現されます。したがって、確率はサンプルとそれが発生する可能性を評価するための間違ったツールです。Fisher（1912）で定義されている統計尤度は、δがゼロになるときの長さδの区間内でサンプル$x$を観測する確率の制限引数に基づいています（Aldrich、1997からの引用）：$\delta$$\delta$

$\qquad\qquad\qquad$

この確率を$\delta$繰り込むとき。尤度関数の用語は、フィッシャー（1921）でのみ導入され、フィッシャー（1922）で最尤法の用語です。

彼は「最も可能性の高い値」と呼ばれ、フラット確率で逆確率の原理（ベイズ推定）を使用しましたが、カールフリードリヒガウスは1809年に正規分布の分散パラメーターの最尤推定量をすでに導出していました。ハルド（1999）は、一般的な原則を定めたフィッシャーの1912年の論文の前に、最尤推定量のいくつかの他の出現について言及しています。

最尤アプローチのその後の正当化は、サンプルの正規化された対数尤度$(x_1,\ldots,x_n)$