最尤法とモーメント法が同じ推定量を生成するのはいつですか?


17

先日、私はこの質問をされましたが、これまで考えたことはありませんでした。

私の直感は、各推定量の利点から来ています。最尤法は、モーメントの方法とは異なり、分布全体の知識を利用するため、データ生成プロセスに自信がある場合に可能です。MoM推定器はモーメントに含まれる情報のみを使用するため、推定しようとしているパラメーターの十分な統計がデータのモーメントである場合、2つの方法は同じ推定値を生成するようです。

いくつかの分布でこの結果を確認しました。正規(未知の平均と分散)、指数、およびポアソンはすべて、それらのモーメントに等しい十分な統計を持ち、MLEとMoM推定器は同じです(複数のMoM推定器があるポアソンのようなものには厳密に当てはまりません)。私たちは制服を見てみると、のための十分統計であるとMOMとMLE推定器は異なっています。(0,θ)θmax(X1,,XN)

多分これは指数族の奇癖だと思ったが、平均値が既知のラプラスの場合、十分な統計は1n|Xi|分散のMLEとMoM推定量が等しくありません。

これまでのところ、一般的な結果を表示することはできませんでした。誰もが一般的な条件を知っていますか?または、反例でも直観を磨くのに役立ちます。


4
MMとMLEは、指数関数族の標準パラメーターについて一致します。しかし、変換を行うと、一般的に、この等価性が失われます(西安の答えからも示唆されています)。
hejseb

回答:


16

一般的な答えは、モーメント法に基づく推定量はパラメータ化の全単射的変化によって不変ではないが、最尤推定量は不変であるということです。したがって、それらはほとんど決して一致しません。(考えられるすべての変換にわたってほとんど決してありません。)

さらに、質問で述べたように、多くのMoM推定量があります。実際、それらの無限大。しかし、これらはすべて経験的分布に基づいています。これは、ノンパラメトリックMLEと見なされる場合がありますが、これは質問とは関係ありません。F^F

実際、質問を組み立てるより適切な方法は、モーメント推定器が十分であるかどうかを尋ねることですが、これにより、データの分布は、Pitman-Koopman補題によって、指数ファミリーからのものになります。知られています。

注:平均がわかっている場合、ラプラス分布では、問題は絶対値を観察することと等価です。絶対値は指数変量であり、指数族の一部です。


1
一般に、MMとMLEが等しいパラメーター化は存在しますか?
アップサイド

1
指数族の場合、平均パラメーター化は平等につながります。指数関数的な家族以外では、私はよくわかりません。
西安
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.