統計学者は、シミュレーションなしで母分散の不偏推定量として（n-1）を使用することにどの程度同意しましたか？

67

分散を計算する式の分母にはがあります。 $(n-1)$

$s^2 = \frac{\sum_{i=1}^N (x_i - \bar{x})^2}{n-1}$

なぜだろうといつも思っていました。しかし、「」が「なぜ」であるかについてのいくつかの優れたビデオを読んで見ることは、人口分散の優れた公平な推定量であるようです。一方、母分散を過小評価し、過大評価します。 $(n-1)$ $n$ $(n-2)$

私が知りたいのは、コンピューターが存在しない時代に、この選択がどれほど正確に行われたかということです。これを証明する実際の数学的証明はありますか、またはこの純粋に経験的かつ統計学者は当時の「最良の説明」を思いつくために多くの計算を手作業で行いましたか？

統計学者は、19世紀初頭にコンピューターの助けを借りてどのようにしてこの公式を思いついたのでしょうか？マニュアルまたはそれは目に会う以上のものですか？

— 博士号
ソース

13

「コンピューターの助けを借りずに」と言うつもりだと思います。答えは、おそらく驚くことではないが、代数を使用することです。導出は非常に簡単であり、多くの場所で、統計学の学生がそれを演習として導出する/学部生として学習するのが一般的です。

— Glen_b

これはかなり良い説明を与えると思います：en.wikipedia.org/wiki/Variance#Sample_variance

— Verena Haunschmid

5

非常に密接に関連する：なぜサンプル標準偏差のバイアス推定である

σ

$\sigma$ とによって分割する直感的な説明 SDを算出する際に？。

n - 1

$n-1$

— whuber

私が使用するように数式を編集したととして分母では、のためである標本分散（ラテン記号）ではない母集団の分散（ギリシャ文字）。

s^{2}

$s^{2}$

\bar{x}

$\bar{x}$

n - 1

$n-1$

— アレクシス

40

この補正はベッセル補正と呼ばれ、数学的な証明があります。個人的には、簡単な方法で教えられましたを使用すると、のバイアスを修正できます（こちらを参照）。 $n-1$ $E[\frac{1}{n}\sum_1^n(x_i - \bar x)^2]$

自由度の概念に基づいて補正を説明することもできます。シミュレーションは厳密には必要ありません。

— ムゲン
ソース

15

証明代替＃3には、素人でも理解できる美しい直感的な説明があります。基本的な考え方は、標本平均は母平均と同じではないということです。観測値は自然に母平均よりもサンプル平均に近くなるため、項は項で過小評価されます。これはおそらくほとんどの人にとって明らかなことでしょうが、バイアスされたサンプル分散が今までバイアスされている理由について「直感」については考えませんでした。正式な証明だけを学びました。

(x_{i} - μ)^{2}

$(x_i - \mu)^2$

(x_{i} - \bar{x})^{2}

$(x_i - \bar{x})^2$

— WetlabStudent

2

また、n-1で補正する幾何学的アプローチもあります（Saville and Woodで非常にうまく説明されています：統計的手法：幾何学的アプローチ）。簡単に言うと、nのサンプルはn次元のデータ空間と見なすことができます。サンプルポイントベクトルは、pパラメータに対応するp次元のモデルベクトルとnp次元のエラーベクトルに分解できる観測ベクトルに追加されます。誤差ベクトルの対応するピタゴラスの分解には、平均が変動の尺度であるnp個の二乗があります。

— ジョルダーノ

簡単な説明を含む美しいリンクを提供します：en.wikipedia.org/wiki/Bias_of_an_estimator

— Christina

証明（代替3）で、を使用して計算された真の分散とバイアス分散の両方を仮定している理由を説明できますか？母集団（真の分散あり）とサンプル（バイアス分散あり）がある場合、異なる分散の問題が発生します。しかし、同じデータ、つまり分散を計算する場合、なぜそれらは異なるのでしょうか？そこで、は、バイアスされたまったく同じを使用して計算された真の分散と考えます。私はこの証拠に同意できません。助けてください、私は何が欠けていますか？

n

$n$

x

$x$

x_{1}, x_{2}, . . ., x_{n}

$x_1, x_2, ... , x_n$

σ^{2}

$\sigma^2$

x

$x$

s_{biased}^{2}

$s_\text{biased}^2$

— トルコのバダロフ

56

私が見たほとんどの証明は、ガウス（とはいえ、彼がそれをやった）が証明するのがかなり簡単だと思うほど単純です。

私はあなたにリンクできるCVの派生物を探していました（ここには少なくとも1つの答えを含む、オフサイトの証明へのリンクがいくつかあります）が、CVの1つを見つけませんでした数回の検索なので、完全を期すために、簡単な検索を行います。その単純さを考えると、人々が通常ベッセル補正と呼ばれるものをどのように使い始めるかを見るのは簡単です。

これは、想定される知識としてを取り、最初のいくつかの基本的な分散特性が既知であると想定しています。 $E(X^2)=\text{Var}(X) + E(X)^2$

\begin{array}{rcl} E [\sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}] & = & E [\sum_{i = 1}^{n} x_{i}^{2} - 2 \bar{x} \sum_{i = 1}^{n} x_{i} + n {\bar{x}}^{2}] \\ = & E [\sum_{i = 1}^{n} x_{i}^{2} - n {\bar{x}}^{2}] \\ = & n E [x_{i}^{2}] - n E [{\bar{x}}^{2}] \\ = & n (μ^{2} + σ^{2}) - n (μ^{2} + σ^{2} / n) \\ = & (n - 1) σ^{2} \end{array}

$\begin{eqnarray} E[\sum_{i=1}^{n} (x_i-\bar x)^2] &=& E[\sum_{i=1}^{n} x_i^2-2\bar x\sum_{i=1}^{n} x_i+n\bar{x}^2]\\ &=& E[\sum_{i=1}^{n} x_i^2-n\bar{x}^2] \\ &=& n E[x_i^2]- n E[\bar{x}^2]\\ &=& n (\mu^2 + \sigma^2) - n(\mu^2+\sigma^2/n)\\ &=& (n-1) \sigma^2 \end{eqnarray}$

— グレン_b
ソース

1

どのプロパティが用語しますか？

- 2 \bar{x} \sum_{i = 1}^{n} x_{i}

$-2\bar{x}\sum_{i=1}^{n}x_i$

— シプリアントモイアガ

3

消えません。最後の用語の記号が変わったことに気づきましたか？

— Glen_b

1

（+1）最近、私は個人的に直感的になったという素晴らしい証拠を聞きました。係数のサンプル分散は、すべてのペアポイント間のすべての平方差の平均として再表現できます。ここで、同じポイントが2回入るペアはすべてゼロであり、これにより式にバイアスがかかることに注意してください。これらのすべてのペアを二重和から除外し、残り全体で平均化するだけでバイアスを修正するのが妥当と思われます。これにより、ベッセルの補正が行われます。

1 / n

$1/n$

— アメーバは、モニカを復活させる

1

いいえ、気にしないで、それを理解しました。なので、3行目の両方の用語に上記の同じIDを適用しているだけです。

V [\bar{x}] = \frac{V [x]}{n}

$V[\bar{x}] = \frac{V[x]}{n}$

— tel

1

iid変量のいずれも同じ2次モーメントを持ちます。それらすべてについて話すことから、それらのうちの1つについて議論するだけになります。（と一部の人はそうする）またはまたはを簡単に取得できますが、私は

x_{1}

$x_1$

x_{2}

$x_2$

x_{n}

$x_n$

i

$i$

37

WeissteinのWorld of Mathematicsによると、1823年にGaussによって最初に証明されました。参考文献は、Gauss 'Werkeの第4巻で、https：//archive.org/details/werkecarlf04gausrichで読むことができます。関連するページは47〜49のようです。ガウスは質問を調査し、証拠を思いついたようです。ラテン語は読みませんが、本文にはドイツ語の要約があります。103〜104ページで、彼のしたことを説明しています（編集：大まかな翻訳を追加しました）。

Allein da man nicht berechtigt ist、die sichersten Werthe fuer die wahren Werthe selbst zu halten、so ueberzeugt man sich leicht、dass man durch dieses Verfahren allemal den wahrscheinlichsen und miten結果als sie wirklich besitzen。[しかし、最も可能性の高い値を実際の値のように扱う資格がないため、最も可能性の高いエラーと平均エラーが小さすぎることを常に見つけなければならないこと、したがって与えられた結果実際よりも高い精度を持っています。]

サンプル分散が母分散のバイアス推定値であることはよく知られているように思われます。記事では、サンプルサイズが十分に大きい場合は重要ではないため、2つの違いは通常無視されると述べています。それからそれは言う：

Der Verfasser hat daher diesen Gegenstand eine besondere Untersuchung unterworfen、die zu einem sehr Merkwuerdigen hoechst einfachen Resultate gefuehrt hat。Man Braucht Nemlich den nach dem angezeigten fahlerhaften Verfahren gefundenen mittleren Fehler、um ihn in die richtigen zu verwandeln、nur mit

$\sqrt{\frac{π - ρ}{π}}$ $\sqrt{\frac{\pi-\rho}{\pi}}$
$\pi$ $\rho$ $\pi$ $\rho$

修正が初めて見つかった場合、ガウスによる巧妙な計算によって発見されたようですが、人々はすでに修正が必要であることを認識していたので、おそらく誰かがこの前に経験的にそれを見つけた可能性があります。あるいは、以前の著者は、とにかくかなり大きなデータセットを扱っていたため、正確な答えを導き出すことを気にしなかったかもしれません。

$n$

— ヒラメ
ソース

誰かがドイツ語の翻訳を提供できれば、それはいいでしょう。私はドイツ語を読みません。

— ファヒムミサ14

2

はい、スペルミスのため、Google翻訳はうまく機能しません！翻訳の試みを追加します。それは私のドイツ語を練習する良い方法です。

— ヒラメ14年

14

私にとって直感の一つは

\begin{matrix} The degree to which \\ X_{i} varies from \bar{X} \end{matrix} + \begin{matrix} The degree to which \\ \bar{X} varies from μ \end{matrix} = \begin{matrix} The degree to which \\ X_{i} varies from μ . \end{matrix}

$\begin{array}{c} \mbox{The degree to which}\\ X_{i}\mbox{ varies from }\bar{X} \end{array}+\begin{array}{c} \mbox{The degree to which}\\ \bar{X}\mbox{ varies from }\mu \end{array}=\begin{array}{c} \mbox{The degree to which }\\ X_{i}\mbox{ varies from }\mu. \end{array}$

あれは、

E [{(X_{i} - \bar{X})}^{2}] + E [{(\bar{X} - μ)}^{2}] = E [{(X_{i} - μ)}^{2}] .

$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]+\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right].$

上記の式を実際に証明するには、少し代数が必要です（この代数は、上記の@Glen_bの答えに非常に似ています）。しかし、それが真実であると仮定すると、次のように再配置できます。

E [{(X_{i} - \bar{X})}^{2}] = \underset{σ^{2}}{\underset{⏟}{E [{(X_{i} - μ)}^{2}]}} - \underset{\frac{σ^{2}}{n}}{\underset{⏟}{E [{(\bar{X} - μ)}^{2}]}} = \frac{n - 1}{n} σ^{2} .

$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]=\underset{\sigma^{2}}{\underbrace{\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right]}}-\underset{\frac{\sigma^{2}}{n}}{\underbrace{\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]}}=\frac{n-1}{n}\sigma^2.$

$\bar{X}$ $\mu$ $\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\frac{\sigma^2}{n}$

— ケニーLJ
ソース

12

回答のほとんどはすでに詳細に説明していますが、それらとは別に、役立つと思われる簡単な図があります。

$n=4$

$8,4,6$

$n=4$ $\bar x=6$ $8,4,6$ $6$

$n-1$ $\bar x$ $nth$ $n-1$

— サトウィック・バタミシュラ
ソース