中央値の不偏推定値

サポートされているランダム変数があり、そこからサンプルを描画できるとします。の中央値の不偏の推定値をどのように考え出すことができますか？ $X$ $[0,1]$ $X$

もちろん、いくつかのサンプルを生成してサンプルの中央値を取得することもできますが、これは一般的に公平ではないことを理解しています。

注：この質問は、最後の質問に関連していますが同一ではありません。この場合、はおおよそのサンプリングしかできません。 $X$

sampling

— ロビンソン
ソース

回答:

そのような推定量は存在しません。

直観は、中央値が固定されたままで、確率密度を両側で自由にシフトできるため、平均値が1つの分布の中央値である推定量は、変更された分布に対して異なる平均を持ち、バイアスがかけられるということです。次の説明では、この直感をもう少し厳密に説明しています。

定義により、すべてのおよびとなるように、一意の中央値を持つ分布注目します。サンプルサイズを修正し、推定と仮定します。（制限するだけで十分ですが、通常は明らかに不可能な値を生成する推定量を真剣に考慮しません。）については何も仮定しません。どこでも連続である必要さえありません。 $F$ $m$ $F(m) \ge 1/2$ $F(x) \lt 1/2$ $x \lt m$ $n \ge 1$ $t: [0,1]^n \to [0,1]$ $m$ $t$ $t$

（この固定サンプルサイズに対して）が不偏でことの意味は、 $t$

E_{F} [t (X_{1}, \dots, X_{n})] = m

$E_F[t(X_1, \ldots, X_n)] = m$

iidサンプルの場合。「不偏推定量」は、このようなすべてのに対してこのプロパティを持つものです。 $X_i \sim F$ $t$ $F$

不偏推定量が存在すると仮定します。矛盾を特に単純な分布のセットに適用することにより、矛盾を導き出します。次の特性を持つ分布を考えます。 $F = F_{x,y,m, \varepsilon}$

$0 \le x \lt y \le 1$ ;
$0 \lt \varepsilon \lt (y-x)/4$ ;
$x + \varepsilon \lt m \lt y - \varepsilon$ ;
$\Pr(X = x) = \Pr(X = y) = (1-\varepsilon)/2$ ;
$\Pr(m-\varepsilon \le X \le m+\varepsilon) = \varepsilon$ ; そして
$F$ は均一です。 $[m-\varepsilon, m+\varepsilon]$

これらの分布は、確率をとそれぞれに配置し、わずかな量の確率がと間の周りに対称的に配置されます。これにより、はの一意の中央値になります。（これが連続分布ではないことが心配な場合は、非常に狭いガウスで畳み込み、結果を切り捨てます。引数は変更されません。） $(1-\varepsilon)/2$ $x$ $y$ $m$ $x$ $y$ $m$ $F$ $[0,1]$

さて、推定中央値推定器について、は値の平均のここで、はとすべての可能な組み合わせで変化します。ただし、と間でを変更できます。これは、少なくとも変更です（条件2および3により）。したがって、が存在し、そこから対応する分布 $t$ $E[t(X_1, X_2, \ldots, X_n)]$ $\varepsilon$ $2^n$ $t(x_1, x_2, \ldots, x_n)$ $x_i$ $x$ $y$ $m$ $x + \varepsilon$ $y - \varepsilon$ $\varepsilon$ $m$ $F_{x,y,m,\varepsilon}$ 、この期待値は中央値QEDと等しくありません。

— ウーバー
ソース

（+1）すてきな証拠。あなたはそれを思いつきましたか、それはあなたが大学院で覚えていたものですか？

— StasK

もう1つの証拠があります。ほとんどのベルヌーイ確率変数の中央値はまたはです。推定試行のみの頂点上の推定の平均値に依存すると、及びこれらの平均値の重みが多項式である程度。これは不偏推定量である場合、それは平均値有していなければならない任意用、以上あるのような値、この多項式が一定でなければならない...それはでなければならないので、に値が低いので、そこにも偏りがありません。

0

$0$

1

$1$

n

$n$

[0, 1]^{n}

$[0,1]^n$

k

$k$

p

$p$

n

$n$

1

$1$

p > 1 / 2

$p \gt 1/2$

n + 1

$n+1$

p

$p$

0

$0$

p

$p$

— ダグラスザーレ

@ダグラスそれは素晴らしい証拠です。ただし、ベルヌーイ変数の中央値はやや特別であり、2つのサポートポイントの1つと一致するため（ 1/2の場合を除く）、一部の人々はその適用範囲について少し不安を感じるかもしれません。読者は、これを「病理学的」と宣言し、ドメインのどこでも正の密度の連続分布のみを見て、そのようなモンスターを阻止しようとするかもしれません。そのような努力が失敗することを示すように注意したのはそのためです。

p = 1 / 2

$p=1/2$

— whuber

パラメトリックモデルを持たずに公平な推定量を見つけることは困難です。ただし、ブートストラップを使用し、これを使用して経験的中央値を修正し、ほぼ不偏の推定量を取得できます。

— kjetil b halvorsen
ソース

これが不可能な場合、それを証明することは可能ですか？たとえば、

が

から独立したサンプルである場合、

が

選択に対して不偏でないことを証明できますか？

X_{1}, X_{2}, \dots, X_{n}

$X_1, X_2, \ldots, X_n$

X

$X$

f (X_{1}, \dots, X_{n})

$f(X_1, \ldots, X_n)$

f

$f$

— ロビンソン

kjetilは、ノンパラメトリックフレームワークでは、あらゆる可能な分布に対して公平な推定値を与える方法はないと言っていると思います。しかし、パラメトリックフレームワークではおそらく可能です。バイアスされたサンプル推定値のブートストラップにより、バイアスを推定し、それを調整して、ほぼバイアスのないブートストラップ推定値を取得できます。それは、ノンパラメトリックフレームワークで問題を処理するための彼の提案でした。公平な推定が不可能であることを証明することも困難です。

— マイケルR.チャーニック

偏りのない推定量が存在しないことを本当に証明したい場合は、Ferguson： "Mathematical Statistics-A Decision Theoretic Approach"という本があります。

— kjetil bハルヴォルセン

ブートストラップの規則性の条件は、whuberが彼の答えで考慮している分布関数に違反することを想像します。マイケル、コメントできますか？

— StasK

@Stas先ほど指摘したように、私の機能は、それらを緩和することで非常に「素敵」に見せることができます。また、原子の大きな有限混合物の緩和に一般化することもできます。このような分布のクラスは、単位間隔のすべての分布で密集しているため、ここではブートストラップの規則性が関係するとは思いません。

— whuber

分位点回帰は、中央値の一貫した推定量を提供すると考えています。モデル与えられた場合。また、は定数であるため、を推定します。必要なのは、だけです。これは、独立したドローがある限り真になります。しかし、公平性に関してはわかりません。中央値は難しいです。 $Y = \alpha + u$ $\text{med}(y) = \text{med}(\alpha + u) = \alpha + \text{med}(u)$ $\alpha$ $\text{med}(u) = 0$

— フランシス
ソース

@whuberの回答

— Peter Flom-