なぜ平均値は中央値よりも異なるサンプルでより安定しているのですか

Andy FieldsによるRを使用した統計の発見などのセクション1.7.2、および平均対中央値の長所を挙げながら：

...平均は異なるサンプルで安定する傾向があります。

これは中央値の多くの美徳を説明した後、例えば

...中央値は、分布の両端の極端なスコアに比較的影響を受けません...

中央値が極端なスコアの影響を比較的受けないことを考えると、サンプル全体でより安定していると思っていたでしょう。だから著者の主張に戸惑った。シミュレーションを実行したことを確認するために、1Mの乱数を生成し、100の数値を1000回サンプリングし、各サンプルの平均と中央値を計算してから、それらのサンプルの平均と中央値のsdを計算しました。

nums = rnorm(n = 10**6, mean = 0, sd = 1)
hist(nums)
length(nums)
means=vector(mode = "numeric")
medians=vector(mode = "numeric")
for (i in 1:10**3) { b = sample(x=nums, 10**2); medians[i]= median(b); means[i]=mean(b) }
sd(means)
>> [1] 0.0984519
sd(medians)
>> [1] 0.1266079
p1 <- hist(means, col=rgb(0, 0, 1, 1/4))
p2 <- hist(medians, col=rgb(1, 0, 0, 1/4), add=T)

ご覧のとおり、平均は中央値よりも密に分布しています。

添付の画像では、赤いヒストグラムは中央値です-ご覧のとおり、背が低く、尾が太いので著者の主張を確認できます。

しかし、私はこれに驚いています！より安定した中央値は、サンプル間で最終的に大きく変化する傾向がありますか？逆説的なようです！どんな洞察もいただければ幸いです。

中央値は、外れ値に対して最大限に堅牢ですが、ノイズの影響を非常に受けやすくなっています。各ポイントに少量のノイズを導入すると、ノイズがポイントの相対的な順序を変更しない程度に小さい限り、減衰なしの中央値に入ります。意味は逆です。ノイズは平均化されますが、1つの外れ値で平均を任意に変更できます。

テストでは主にノイズに対するロバスト性を測定しますが、中央値のパフォーマンスがより良いものを簡単に作成できます。外れ値とノイズの両方に対してロバストな推定器が必要な場合は、上位3分の1と下位3分の1を捨てて、残りを平均します。

@whuberと他の人が言ったように、このステートメントは一般的に真実ではありません。そして、もっと直感的になりたいと思っているなら（私はこの辺の数学オタクに追いつくことはできません）、平均と中央値が安定しているかどうかを見るかもしれません。これらの例では、説明の一貫性とシンプルさを保つために、奇数個のポイントを想定しています。

1. 数直線上に点が広がっていると想像してください。ここで、真ん中より上のすべてのポイントを取得し、それらを値の10倍まで移動するとします。中央値は変化せず、平均値は大幅に変化しました。したがって、中央値はより安定しているようです。

2. ここで、これらのポイントがかなり広がっていると想像してください。中心点を上下に移動します。1単位の移動は中央値を1つずつ変更しますが、平均値はほとんど移動しません。中央値は現在、安定性が低く、単一点の小さな動きに敏感です。

3. ここで、最高点を取得し、最高点から最低点までスムーズに移動することを想像してください。平均もスムーズに動きます。しかし、中央値は連続的に移動しません。高点が前の中央値より低くなるまでまったく移動せず、次の点を下回るまで点を追跡し始め、中央値はその点に固定され、再び動きます。ポイントを下に動かし続けても動かないでください。[コメントごとに編集]

そのため、ポイントのさまざまな変換により、平均値または中央値のいずれかが、ある意味で滑らかさまたは安定性を失います。ここでの数学のヘビーヒッターは、サンプリングできる分布を示しています。これは、実験とより一致していますが、この直感が役立つことを願っています。

$n$$\mu$$\sigma^2 < \infty$$f$$m$$\tilde{f}$$\tilde{f}(z) = \sigma \cdot f(\mu+\sigma z)$$z \in \mathbb{R}$。サンプル平均とサンプル中央値の漸近分散は、それぞれ次のように与えられます。

$$\mathbb{V}(\bar{X}_n) = \frac{\sigma^2}{n} \quad \quad \quad \quad \quad \mathbb{V}(\tilde{X}_n) \rightarrow \frac{\sigma^2}{n} \cdot \frac{1}{4} \cdot \tilde{f}\Big( \frac{m-\mu}{\sigma} \Big)^{-2}.$$

したがって、次のものがあります。

$$\frac{\mathbb{V}(\bar{X}_n)}{\mathbb{V}(\tilde{X}_n)} \rightarrow 4 \cdot \tilde{f}\Big( \frac{m-\mu}{\sigma} \Big)^2.$$

$n$

$$\mathbb{V}(\bar{X}_n) < \mathbb{V}(\tilde{X}_n) \quad \quad \iff \quad \quad f_* \equiv \tilde{f} \Big( \frac{m-\mu}{\sigma} \Big) < \frac{1}{2}.$$

$n$$f_* = 1 / \sqrt{2 \pi} = 0.3989423 < 1/2$

コメント：平均値と中央値のSDの結果が逆になる分布を使用して、シミュレーションをエコーバックするだけです。

具体的にnumsは、ラプラス分布（「二重指数」とも呼ばれます）からのものであり、同じレート（ここではデフォルトレート1）の2つの指数分布の差としてシミュレートできます。[おそらく、ラプラス分布に関するウィキペディアを参照してください。]

set.seed(2019)
nums = rexp(10^6) - rexp(10^6)
means=vector(mode = "numeric")
medians=vector(mode = "numeric")
for (i in 1:10^3) { b = sample(x=nums, 10^2); 
  medians[i]= median(b); means[i]=mean(b) }
sd(means)
[1] 0.1442126
sd(medians)
[1] 0.1095946   # <-- smaller

hist(nums, prob=T, br=70, ylim=c(0,.5),  col="skyblue2")
 curve(.5*exp(-abs(x)), add=T, col="red")

注： @whuberのリンクで明示的に言及されている別の簡単な可能性は、Cauchyです。これは、1自由度のスチューデントのt分布としてシミュレートできますrt(10^6, 1)。ただし、その裾は非常に重いため、素敵なヒストグラムを作成するのは問題です。