対数正規分布の算術平均が分布平均よりも小さいのはなぜですか？

そのため、対数正規分布のランダム変数生成するランダムプロセスがあります $X$ 。対応する確率密度関数は次のとおりです。

元の分布のいくつかのモーメントの分布を推定したいと考えました。1番目のモーメント、つまり算術平均です。そのために、算術平均の10000の推定値を計算できるように、100個のランダム変数を10000回描画しました。

その平均を見積もるには、2つの異なる方法があります（少なくとも、それは私が理解したことです：私は間違っているかもしれません）。

はっきり平均算術通常の方法を計算することによって： $\bar{X} = \sum_{i = 1}^{N} \frac{X_{i}}{N} .$ $\bar{X} = \sum_{i=1}^N \frac{X_i}{N}.$
または、基礎となる正規分布から最初におよびを推定することによって： $\sigma$ $\mu$ 、次に平均として $μ = \sum_{i = 1}^{N} \frac{\log (X_{i})}{N} σ^{2} = \sum_{i = 1}^{N} \frac{{(\log (X_{i}) - μ)}^{2}}{N}$ $\mu = \sum_{i=1}^N \frac{\log (X_i)}{N} \quad \sigma^2 = \sum_{i=1}^N \frac{\left(\log (X_i) - \mu\right)^2}{N}$ $\bar{X} = \exp (μ + \frac{1}{2} σ^{2}) .$ $\bar{X} = \exp(\mu + \frac{1}{2}\sigma^2).$

問題は、これらの各推定値に対応する分布が体系的に異なることです。

「プレーン」平均（赤い破線で表される）は、指数形式（緑のプレーン線）から得られる値よりも一般に低い値を提供します。両方の平均はまったく同じデータセットで計算されますが。この違いは体系的であることに注意してください。

なぜこれらの分布は等しくないのですか？

— JohnW
ソース

と

真のパラメーターは何ですか？

μ

$\mu$

σ

$\sigma$

— クリストフハンク

および

ですが、これらのパラメーターの推定に興味があることに注意してください。したがって、これらの生の数値から計算するのではなく、モンテカルロアプローチです。

μ = 3

$\mu = 3$

σ = 1.5

$\sigma = 1.5$

— -JohnW

確かに、これは結果を複製するためのものです。

— クリストフハンク

興味深いことに、この現象は対数正規性とは関係ありません。対数

正の数値

が与えられた場合、算術平均（AM）

は幾何平均（GM）

下回らないことがよく知られています。もう一方の方向では、AMがGMに

x_{i}

$x_i$

y_{i}

$y_i$

\sum x_{i} / n

$\sum x_i/n$

\exp (\sum y_{i} / n)

$\exp(\sum y_i/n)$

\exp (s_{y}^{2} / 2)

$\exp(s_y^2/2)$

s_{y}^{2}

$s_y^2$

y_{i}

$y_i$ 。したがって、点線の赤い曲線は用緑色の曲線の左側に位置しなければならない任意の（正の乱数を記述する）親分布。

— whuber

平均の多くが膨大な数の小さな確率に由来する場合、有限サンプル算術平均は、高い確率で母平均を過小評価する可能性があります。（予想では公平だが、小さな過小評価と大きなオーバー見積もりの小さな確率の大きな可能性があります。）この質問も、このいずれかに関連することができる：stats.stackexchange.com/questions/214733/...

— マシュー・ガン

$N$ $\exp[\mu+1/2\sigma^2]$

$\bar X\to_pE(X_i)$

\exp [\hat{μ} + 1 / 2 {\hat{σ}}^{2}] \to_{p} \exp [μ + 1 / 2 σ^{2}],

$\exp[\hat\mu+1/2\hat\sigma^2]\to_p\exp[\mu+1/2\sigma^2],$

\hat{μ} \to_{p} μ

$\hat\mu\to_p\mu$

{\hat{σ}}^{2} \to_{p} σ^{2}

$\hat\sigma^2\to_p\sigma^2$

ただし、MLEは公平ではありません。

$N$ $\hat\mu$ $\hat\sigma^2$ $N=100$ $N-1$ $\mu$ $\sigma^2$

$E(\hat\mu+1/2\hat\sigma^2)\approx\mu+1/2\sigma^2$

E [\exp (\hat{μ} + 1 / 2 {\hat{σ}}^{2})] > \exp [E (\hat{μ} + 1 / 2 {\hat{σ}}^{2})] \approx \exp [μ + 1 / 2 σ^{2}]

$E[\exp(\hat\mu+1/2\hat\sigma^2)]>\exp[E(\hat\mu+1/2\hat\sigma^2)]\approx \exp[\mu+1/2\sigma^2]$

$N=100$

$N=1000$

作成者：

N <- 1000
reps <- 10000

mu <- 3
sigma <- 1.5
mm <- mle <- rep(NA,reps)

for (i in 1:reps){
  X <- rlnorm(N, meanlog = mu, sdlog = sigma)
  mm[i] <- mean(X)

  normmean <- mean(log(X))
  normvar <- (N-1)/N*var(log(X))
  mle[i] <- exp(normmean+normvar/2)
}
plot(density(mm),col="green",lwd=2)
truemean <- exp(mu+1/2*sigma^2)
abline(v=truemean,lty=2)
lines(density(mle),col="red",lwd=2,lty=2)

> truemean
[1] 61.86781

> mean(mm)
[1] 61.97504

> mean(mle)
[1] 61.98256

$\exp(\mu+\sigma^2/2)$

V_{t} = (σ^{2} + σ^{4} / 2) \cdot \exp {2 (μ + \frac{1}{2} σ^{2})},

$V_t = (\sigma^2 + \sigma^4/2)\cdot \exp\left\{2(\mu + \frac 12\sigma^2)\right\},$

\exp {2 (μ + \frac{1}{2} σ^{2})} (\exp {σ^{2}} - 1)

$\exp\left\{2(\mu + \frac 12\sigma^2)\right\}(\exp\{\sigma^2\}-1)$

\exp {σ^{2}} > 1 + σ^{2} + σ^{4} / 2,

$\exp\{\sigma^2\}>1+\sigma^2 + \sigma^4/2,$

\exp (x) = \sum_{i = 0}^{\infty} x^{i} / i!

$\exp(x)=\sum_{i=0}^\infty x^i/i!$

σ^{2} > 0

$\sigma^2>0$

MLEが実際に小規模にバイアスされていることを確認するには $N$ N <- c(50,100,200,500,1000,2000,3000,5000)

$N$ $N$ $N=50$

> tail(sort(mm))
[1] 336.7619 356.6176 369.3869 385.8879 413.1249 784.6867
> tail(sort(mle))
[1] 187.7215 205.1379 216.0167 222.8078 229.6142 259.8727

— クリストフ・ハンク
ソース

N

$N$

N = 100

$N=100$

N

$N$

まあ、私は2つの方法の間に大きな違いがあることにも驚いていますが、この例は「単なる平均化」がなぜひどいのかを示すのに完全に完璧です！

— JohnW

@ JohnW、MLEの分散が小さい理由の分析的説明を少し追加しました。

— クリストフハンク

N

$N$

N \to \infty

$N\to\infty$