中心極限定理と多数の法則

14

中心極限定理は、 $N$ が無限大になるにつれてiid変数の平均が正規分布になると述べています。

これにより、2つの質問が発生します。

これから多数の法則を推測できますか？大数の法則は、確率変数の値のサンプルの平均が真の平均と等しいことを言う場合は $\mu$ として、 $N$ 無限大になり、価値になることを（中心極限が言うように）それを言っても、強いと思われる $\mathcal N(\mu, \sigma)$ ここで、 $\sigma$ は標準偏差です。それでは、中央限界が多数の法則を意味すると言うのは公平ですか？
中心極限定理は変数の線形結合に適用されますか？

probability central-limit-theorem law-of-large-numbers

— user9097
ソース

5

「中心極限定理は、

N

$N$ が無限大になるにつれてiid変数の平均が正規分布になると述べている」という主張は間違っています。同様の問題を提起するこの最近の質問に対する私の答えをご覧ください。その質問への別の回答が投稿されましたが、その後すぐに削除され、その回答に続く議論も消えましたが、これらの問題についても議論しました。

— ディリップサーワテ

1

母平均

μ

$\mu$ 収束するサンプル平均が、

分布からのサンプルに収束するサンプル平均よりも弱い結果になるのはなぜですか？

N (μ, σ)

$\mathcal N(\mu, \sigma)$

— ディリップサーワテ

@DilipSarwate旗に感謝しますが、あなたのコメントはIMOで十分に質問の誤解を明らかにし、合理的な答えが現れました。

10

OPは言う

中心極限定理は、Nが無限大になるにつれてiid変数の平均が正規分布になると述べています。

これは、平均と標準偏差持つiidランダム変数について、の累積分布関数であるというOPの信念であることを意味します $X_i$ $\mu$ $\sigma$ $F_{Z_n}(a)$ は、の累積分布関数、平均と標準偏差持つ正規確率変数に収束します。または、OPは、この式のマイナーな再配置、たとえば、の分布がの分布、またはの分布に収束すると考えてい

Z_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}

$Z_n = \frac{1}{n} \sum_{i=1}^n X_i$

N (μ, σ)

$\mathcal N(\mu,\sigma)$

μ

$\mu$

σ

$\sigma$

Z_{n} - μ

$Z_n - \mu$

N (0, σ)

$\mathcal N(0,\sigma)$

(Z_{n} - μ) / σ

$(Z_n - \mu)/\sigma$ の分布に収束します

、標準正規確率変数。例として、これらのステートメントは

N (0, 1)

$\mathcal N(0,1)$

P {| Z_{n} - μ | > σ} = 1 - F_{Z_{n}} (μ + σ) + F_{Z_{n}} ((μ + σ)^{-}) \to 1 - Φ (1) + Φ (- 1) \approx 0.32

$P\{|Z_n - \mu| > \sigma\} = 1 - F_{Z_n}(\mu + \sigma) + F_{Z_n}((\mu + \sigma)^-) \to 1-\Phi(1)+\Phi(-1) \approx 0.32$ as

n \to \infty

$n \to \infty$ 。

OPは言い続けます

これにより、2つの質問が発生します。

これから多数の法則を推測できますか？数の法則が、Nが無限大になるにつれて、ランダム変数の値のサンプルの平均が真の平均μに等しいと言っている場合、（中央の限界が示すように）値がN（ μ、σ）ここで、σは標準偏差です。

多数の弱い法律はiid確率変数のためにと言う有限の平均値と任意の、、 $X_i$ $\mu$ $\epsilon > 0$

P {| Z_{n} - μ | > ϵ} \to 0 as n \to \infty .

$P\{|Z_n - \mu| > \epsilon\} \to 0 ~~ \text{as}~ n \to \infty.$ 標準偏差が有限であると仮定する必要はないことに注意してください。

したがって、OPの質問に答えるために、

OPで述べられている 中心極限定理は、多数の弱い法則を意味するものではありません。定理と言う中心極限の、OPのバージョン弱い法則では $n \to \infty$ $P\{|Z_n-\mu| > \sigma\} \to 0.317\cdots$ $P\{|Z_n-\mu| > \sigma\} \to 0$
中心極限定理の正しい記述から、有限平均と標準偏差を持つランダム変数に適用される大きな数の弱い法則の制限された形式のみを推定することができます。しかし、大きな数の弱い法則は、有限平均ではあるが標準偏差が無限であるパレート確率変数などの確率変数にも当てはまります。
サンプル平均が非ゼロ標準偏差の通常のランダム変数に収束すると言うのは、サンプル平均が母平均に収束すると言うよりも強い声明である理由はわかりません。母平均は定数（または標準偏差がゼロのランダム変数あなたが好きです）。

— ディリップ・サルワテ
ソース

私の答えに反対票を投じた人が、私が言ったことについて、何が不愉快または間違っていると思ったのでしょうか。

— ディリップサルワテ

7

（大数の法則は、イベントの確率に関する声明がで決定されるよう大数の法則について、あなたは同じ確率空間上で定義されるすべての変数を持っている必要がありますすべてのために、同時に）。分布の収束のために、異なる確率空間を使用できます。これにより、証明の多くの側面が簡素化されます（たとえば、ネストされた空間の増加、さまざまな三角形配列証明で非常に一般的）。しかし、それはまたあなたがの結合分布に関する任意のステートメントにすることはできません意味と $\bar X_n$ $n$ $\bar X_n$ $\bar X_{n+1}$ 、いう。そのため、すべての変数に共通の確率空間がない限り、分布の収束は大きな数の法則を意味しません。

— StasK
ソース

（+1）あなたの言うことは真実であり、非常に重要なポイントです。三角形の配列により、各「行」の変数は前の行とは異なる確率空間で生きることができます。一方、iidランダム変数のシーケンスを検討しているとアプリオリに言えば、独立の概念が意味をなすためには、暗黙的にそれらが共通の基礎となる空間に存在しなければなりません。

— 枢機

@cardinal：だから、もし私が正しく理解すれば、すべてが同じ空間で定義されている「単純な」ケースでは、中心性は大きな数の法則を暗示しているのでしょうか？またはいいえ？

— user9097

@ user9097我々は今、細かい詳細の王国になっているのでについて聞かれている大数の法則？弱い法則か強い法則か？

— ディリップサーワテ

そのポイントは、唯一のために真である、多数の強力な法則ではないため、弱い法則

— HalvorsenのはKjetil B

4

最初に、多くの定義がありますが、中心極限定理の標準形式の1つは、に分布収束、サンプル平均であり、いくつかのランダム変数のIIDコピー。 $\sqrt{n}(\bar{X}_n-EX)$ $\mathcal N(0, Var(X))$ $\bar{X}$ $n$ $X$

次に、2つの独立したランダム変数とます。次に $X$ $Y$ または

\sqrt{n} (\frac{1}{n} \sum_{j = 1}^{n} (a X_{j} + Y_{j}) - E (a X + Y)) \to N (0, V a r (a X + Y))

$\sqrt{n}(\frac{1}{n}\sum_{j=1}^n(aX_j+Y_j) - E(aX+Y)) \to \mathcal N(0, Var(aX+Y))$

\sqrt{n} a ({\bar{X}}_{n} - E X) + \sqrt{n} ({\bar{Y}}_{n} - E Y) \to N (0, a^{2} V a r (X) + V a r (Y)) .

$\sqrt{n}a(\bar{X}_n- EX)+\sqrt{n}(\bar{Y}_n -EY) \to \mathcal N(0, a^2Var(X)+Var(Y)).$

言い換えれば、ランダム変数の線形結合は、CLTの下の法線の線形結合に収束することはありません。ランダム変数の線形結合は、CLTを直接適用できる別のランダム変数であるため、これは理にかなっています。

— ダニエル・ジョンソン
ソース

1

{\bar{X}}_{n} = \sum_{i = 1}^{n} w_{n i} X_{i}

$\bar X_n = \sum_{i=1}^n w_{ni} X_i$

w_{n i} = 1 / n

$w_{ni} = 1/n$

i = 1, \dots, n

$i = 1,\ldots,n$ 、これらの「均一な」重みを他の（より任意の）重みに置き換えるとどうなるかという疑問が自然に生じます。まだCLTを取得できるのはいつですか？LindebergのCLTを使用して、この質問に答えることができます。

— 枢機

\sum_{j = 1}^{n} w_{n j} X_{j}

$\sum^n_{j=1}w_{nj}X_j$

w_{n j} = w_{j} / n

$w_{nj} = w_{j}/n$

w_{j}

$w_j$

w_{j}

$w_{j}$

w_{j} X

$w_jX$

w

$w$

n

$n$

1

E X = 0

$\mathbb E X = 0$

w_{j}

$w_j$

w_{1} = 1

$w_1 = 1$

w_{2} = 0

$w_2 = 0$

w_{j}

$w_j$

w_{j} = 0

$w_j = 0$

\sum_{i = 1}^{j} w_{i} / j \leq 1 / 4

$\sum_{i=1}^j w_i /j \leq 1/4$

\sum_{i = 1}^{j} w_{i} / j \geq 1 / 2

$\sum_{i=1}^j w_i /j \geq 1/2$

0

$0$

1

$1$

1 / 2

$1/2$

1 / 4

$1/4$

0

$0$

1

$1$