パラメータがパラメータ空間の境界に近づくと、対数尤度はマイナス無限大になる必要があるのはなぜですか？

最近の講義で、最尤推定が有効であるためには、パラメーターがパラメーター空間の境界に行くときに対数尤度がマイナス無限大になる必要があると言われました。しかし、なぜこれが不可欠なのかわかりません。対数尤度がある種の漸近線に行くと仮定します。次に、尤度を最大化するパラメーターは、依然として最尤推定値ですよね？

maximum-likelihood

— mrz
ソース

（+1）。まあ、データに正規分布のMLフィッティングを実行し、SDの可能な値をからの範囲に、平均を範囲に制限すると、私は私の見積もりが有効でなくなると思います...。:-)。これらのエンドポイントはIEEE浮動小数点精度の範囲を超えているため、標準のコンピューティングデバイスで実行される統計ソフトウェアをだれも信頼できないことを意味します。私たち全員がその古いそろばん（計算尺が付いている棚にあります）を引き出して、手動で計算を行う時間にならなければなりません。

10^{- 1000}

$10^{-1000}$

10^{1000}

$10^{1000}$

\pm 10^{1000},

$\pm 10^{1000},$

— whuber

MLエスティメータの漸近正規性の通常の引数は、パラメータの真の値がパラメータ空間の内部にあるという仮定を使用しています。おそらく、あなたが話している仮定は、この内面性を証明するために使用されています。あなたが言及する状態は、必要であるという意味で、絶対に必須ではありません。

— ビル・

パラメータ空間とは何ですか、問題のパラメータは何ですか、およびどの分布ですか？あなたが言われたことはその有効性を評価することができるために多くの重要な情報を欠いています。

— Alecos Papadopoulos 2013

最尤推定値が有効であるためには、パラメーターが境界に到達するときに対数尤度がマイナス無限大に到達する必要があります

これは、結果が有効であるためには、パラメーター空間の境界でパラメーターの尤度が0になる必要があるということと同じです。

まず第一に、パラメーター空間を、すべてが正の尤度を持つ値に制限しても、有効な推定値を取得できます。

次に、たとえばを使用しても、既成の最適化パッケージが何らかのランダムな初期化を実行し、勾配などの方法を使用して最小値に近づくため、境界に近づきません降下、共役勾配など。どちらの場合も、パラメーター空間の境界に近づくことはほとんどないため、そもそも境界が重要である理由がよくわかりません。 $(-\infty,\infty)$

そして、それを故意に行ったとしても、ある時点で、オペレーティングシステムの浮動小数点精度に達します。その時点で、実際には境界にほとんど接近していないことを保証できます。:) $-\infty$

個人的には、非常に小さな可能性の合計と積を計算するときに発生するアンダーフローの問題と、ログサムexpが、パラメータースペースの境界に到達するのとは異なり、実際には非常に重要である非常に興味深い注目すべき問題を引き起こします。

— 意味するもの
ソース