なぜ一貫性を保つために推定量が必要なのですか？

一貫した推定量の数学的定義はすでに理解していると思います。私が間違っている場合は修正してください：

$W_n$場合、は一貫した推定量です$\theta$$\forall \epsilon>0$

$$\lim_{n\to\infty} P(|W_n - \theta|> \epsilon) = 0, \quad \forall\theta \in \Theta$$

ここで、$\Theta$はパラメトリック空間です。しかし、私は推定量が一貫している必要性を理解したいと思います。一貫性のない推定量が悪いのはなぜですか？例を挙げていただけますか？

Rまたはpythonでのシミュレーションを受け入れます。

推定器に一貫性がない場合、それは確率の真の値に収束しません。言い換えると、データポイントの数に関係なく、推定量と真の値に差がある可能性が常にあります。膨大な量のデータを収集した場合でも、推定値は常に真の値とは異なるなるという確実な確率を持つため、これは実際には悪いことです。実際には、このような状況は、少量のサンプルではなく全人口を調査しても役に立たないような量の推定量を使用していると考えることができます。$\epsilon>0$

n = 10と考える$n = 10\,000$標準コーシー分布からの 000の観測。これは、1自由度のスチューデントのt分布と同じです。この分布の裾は十分に重いため、意味がありません。分布は中央値 η = 0を中心としています。$\eta = 0.$

サンプルのシーケンスは、A j = 1を意味します$A_j = \frac 1j \sum_{i=1}^j X_i$はコーシー分布の中心に対して一貫性がありません。大雑把に言えば、非常に極端な観測$X_i$（正または負）が十分な規則性で発生するため、$A_j$が$\eta = 0.$に収束する可能性はありません（$A_j$は収束が遅いだけでなく、 tはこれまでに収束する。の分布jが再び標準コーシー[プルーフ]）。$A_j$

これとは対照的に、継続的なサンプリングプロセスのいずれかの段階で、観測値の約半分は$X_i$のいずれかの側にあるだろう$\eta,$シーケンスのように$H_j$サンプル中央値のが収束するん$\eta.$

この$A_j$収束と$H_j$の収束の欠如は、次のシミュレーションによって示されます。

set.seed(2019)  # for reproducibility
n = 10000;  x = rt(n, 1);  j = 1:n
a = cumsum(x)/j
h = numeric(n)
for (i in 1:n) {
  h[i] = median(x[1:i])  } 
par(mfrow=c(1,2))
 plot(j,a, type="l", ylim=c(-5,5), lwd=2,
    main="Trace of Sample Mean")
  abline(h=0, col="green2")
  k = j[abs(x)>1000] 
  abline(v=k, col="red", lty="dotted")
 plot(j,h, type="l", ylim=c(-5,5), lwd=2,
     main="Trace of Sample Median")
  abline(h=0, col="green2") 
par(mfrow=c(1,1))

以下がステップのリストです$|X_i| > 1000.$これらの極端な観測値の一部が、左側のプロット（赤い赤い点線）の移動平均に及ぼす影響を確認できます。

k = j[abs(x)>1000]
rbind(k, round(x[k]))
   [,1] [,2] [,3]  [,4] [,5]  [,6]   [,7]  [,8]
k   291  898 1293  1602 2547  5472   6079  9158
  -5440 2502 5421 -2231 1635 -2644 -10194 -3137

推定において重要な一貫性：コーシー母集団からのサンプリングでは、n = 10のサンプルのサンプル平均$n = 10\,000$観測値は、1つの観測値よりも中心$\eta$を推定するのに適しています。対照的に、一貫したサンプル中央値は$\eta,$収束するため、サンプルが大きいほど、より良い推定値が生成されます。

一貫性を考えることが重要である理由の実に簡単な例は、私が十分な注意を引くとは思わないが、単純化したモデルのそれです。

理論的な例として、真の効果が実際には非線形であるいくつかのデータに線形回帰モデルを当てはめたいとします。その場合、予測は共変量のすべての組み合わせの真の平均と一致することはできませんが、より柔軟な方法は可能です。つまり、単純化されたモデルには、より多くのデータを使用しても克服できない欠点があります。

@BruceETはすでに優れた技術的な答えを出しましたが、それについての解釈についてのポイントを付け加えたいと思います。

統計の基本概念の1つは、サンプルサイズが大きくなると、基礎となる分布についてより正確な結論に達することができるということです。これは、大量のサンプルを取得することでデータのランダムなジッターを排除するという概念と考えることができます。そのため、基礎となる構造のより良い概念が得られます。

$(X_i)_{i\in\mathbb{N}} \ $$\mathbb{E}[X_1] < \infty$

$$\frac{1}{n} \sum_{k = 1}^n X_k \rightarrow \mathbb{E}[X] \ \ \ \text{a.s.}$$

さて、また、このルールに従うことを要求している矛盾しないように推定量を必要とする：その仕事は未知パラメータを推定することであるように、我々はそのパラメータに収束することを希望（読み：見積りをその恣意もパラメータ）私たちのサンプルとして、サイズは無限大になる傾向があります。

方程式

$$\lim_{n\to\infty} P(|W_n - \theta|> \epsilon) = 0, \quad \forall\epsilon > 0\ \forall\theta \ \in \Theta$$

$W_n$$\theta$

$[\theta - \varepsilon, \theta + \varepsilon]$$\theta$