平均および標準偏差ガウス分布からのサンプルの最小および最大のジョイント累積分布関数は、次のです。 X (N ) N μ σバツ(1 )バツ(n )nμσ
F(x(1 )、x(n ); μ 、σ)= Pr (X(1 )< x(1 )、X(n )< x(n ))= Pr (X(n )< x(n ))− Pr (X(1 )> x(1 )、X(n )< x(n )= Φ (x(n )- μσ)n− [ Φ (x(n )- μσ) -Φ(X(1 )- μσ) ]n
ここで、は標準のガウスCDFです。微分・同時確率密度関数を与えますx (1 ) x (n )Φ (⋅ )バツ(1 )バツ(n )
f(x(1 )、x(n ); μ 、σ)=n (n − 1 )[ Φ (x(n )- μσ) -Φ(X(1 )- μσ) ]n − 2⋅ φ (X(n )- μσ) ⋅φ(X(1 )- μσ) ⋅ 1σ2
ここで、は標準のガウスPDFです。ログを取得し、パラメーターを含まない用語を削除すると、対数尤度関数が得られますϕ (⋅ )
ℓ (μ 、σ; バツ(1 )、x(n ))=(n − 2 )ログ[ Φ (x(n )- μσ) -Φ(X(1 )- μσ) ] +ログϕ (x(n )- μσ) +ログϕ (x(1 )- μσ) −2ログσ
これはあまり扱いにくいようには見えませんが、設定することで、の値に関係なく最大化されていることが簡単にわかります、つまり中点-1つのCDFの引数が他のCDFの引数の負である場合、最初の項が最大化されます。2番目と3番目の項は、2つの独立した正規変量の結合尤度を表します。μ = μ = X (N ) + X (1 )σμ = μ^= x(n )+ x(1 )2
対数尤度にを代入してを
記述すると、 R=X(N)-X(1)ℓ(σ;X(1)、X(N)、 μ)=(N-2)ログを[1-2Φ( - Rμ^r = x(n )− x(1 )
ℓ (σ; バツ(1 )、x(n )、μ^)= (n − 2 )ログ[ 1 - 2 Φ ( - R2つのσ) ] − r24つのσ2− 2 ログσ
を見つけるには、この式を数値的に(たとえばoptimize
Rのstat
パッケージから)最大化する必要があります。(であることが判明しました。ここで、はのみに依存する定数です。おそらく、私が理由を示すよりも数学的に巧妙だと思われます。)σ^σ^= K (N )⋅ Rkn
推定値は、精度の測定値なしでは役に立ちません。観測されたフィッシャー情報は、数値的に評価することができ(たとえばhessian
、RのnumDeriv
パッケージから)、近似標準誤差の計算に使用できます。
私(μ )= −∂2ℓ(μ;σ^)(∂μ)2∣∣∣μ=μ^
I(σ)=−∂2ℓ(σ;μ^)(∂σ)2∣∣∣σ=σ^
バイアス(MLEは一貫性がありますか?)、分散、および平均二乗誤差に関しての尤度とモーメント法の推定値を比較することは興味深いでしょう 。また、最小値と最大値に加えてサンプル平均がわかっているグループの推定の問題もあります。σ