積分できない確率変数を使用したCLT

Klenkeの「Probability Theory：A Comprehensive Course」の演習15.5.1は次のように解釈されます。配列検索有する独立した実際の確率変数のを全てについてようこのケースで平均が定義されていない場合、これがどのように可能かはわかりません。未定義の平均値を持つ変数について考えることができるすべてのケースは、スケーリングを使用した中心極限定理を満たしていません。どんな助けでもありがたいです。 $X_1, X_2, \ldots$ $\mathbb{E}[|X_n|]=\infty$ $n\in \mathbb{N}$

\frac{X_{1} + \dots + X_{n}}{\sqrt{n}} \overset{n \to \infty}{⟹} N (0, 1) .

$\frac{X_1+ \cdots + X_n}{\sqrt{n}} \stackrel{n \to \infty}{\Longrightarrow} N(0,1).$

\sqrt{n}

$\sqrt{n}$

self-study central-limit-theorem

— guest0877
ソース

ヒント：概念を基本的な要素に減らします。NormalはCLTの中心にあるため、iid標準Normal

から始め

X_{i}

$X_i$ ます。次に、（a）予測される絶対値がそれぞれ無限大になるように修正し、（b）修正量が

とともに急速に減少するようにします

n

$n$ 。これにより、

による極限除算で

\sqrt{n}

$\sqrt{n}$ 、修正された部分が "削除"されます。確率変数を変更する簡単な方法は、変数に別の変数を追加することです。

— whuber

@whuber確率変数が同じように分布しているとは言われていないというあなたのポイントはありますか？彼らがiidだった場合、私はOPに同意します。

— Michael R. Chernick

@whuberまた、答えはXnのみが無限平均を持つことを要求しますか？

— Michael

「for all n」は、すべてのXiが無限の平均絶対値を持つことを意味すると思います。ここで気をつけようとしています。私はあなたのヒントを理解したいのですが、OPの解決策を与えるようなことは言いません。

— マイケルR.チェニック2016

@Michaelもし彼らがiidだったら、結果は真ではないでしょう。アイデアは、が増加するにつれて、無限の期待が発生する可能性がますます少なくなるの部分を作成することです。そのための良い方法は、混合することです。

X_{n}

$X_n$

n

$n$

— whuber

これを解決する多くの方法の中で、標準のNormal変数を摂動させることによってシーケンスを構築することは、最も単純で最もエレガントなように見えます。

最後に、中心極限定理との関連についてコメントします。

特性関数

解決策を提示する前に余談をさせてください。使用される手法のインスピレーションは、ランダム変数分布を説明する方法が複数あるという考えから来ています。最も一般的で最も直接的なのは、その分布関数です。間接的だが非常に有用な代替手段は、その特徴的な機能です $X$ $F_X(x)=\Pr(X\le x)$

ψ_{X} (t) = E [e^{i t X}] = E [\cos (t X)] + i E [\sin (t X)] .

$\psi_X(t) = E\left[e^{itX}\right] = E\left[\cos(t X)\right] + i\, E\left[\sin(t X)\right].$

ので、のすべてのための、任意の分布のために定義されて（すべてについて、その値超えることができないサイズで）。さらに、とが同じ分布を持つのは、それらが同じ特性関数を持つ場合だけです。さらに良いのはレヴィの連続性定理です。すべてのについてシーケンスが値と関数収束する場合にのみ、シーケンスは分布で確率変数収束します $|e^{itX}|=1$ $t$ $\psi_F$ $F$ $t$ $1$ $X$ $Y$ $X_n$ $X$ $t$ $\phi_{X_n}(t)$ $\psi(t)$ $\psi$ で連続です。（すべての特性関数は連続です。）その場合、は特性関数です。 $0$ $0$ $\psi$ $X$

特性関数が享受する素敵な特性のもう1つは、線形結合との関係ですとが確率変数である場合（同じ確率空間で、とが実数、 $X$ $Y$ $\alpha$ $\beta$

\begin{matrix} (1) & ψ_{α X + β Y} (t) = ψ_{X} (α t) ψ_{Y} (β t) . \end{matrix}

$\psi_{\alpha X+\beta Y}(t) = \psi_X(\alpha t)\psi_Y(\beta t).\tag{1}$

これは、特徴的な機能（CFS）研究に適したツールになり摂動確率変数の他の確率変数の微量添加することにより達成それらには：で、フォームの確率変数について小さい。 $X$ $Y$ $X+\beta Y$ $|\beta|$

解決

シーケンスの構築

レッツ・構文標準正規変数で始まるによって溶液と独立した系列形成と同じ分布を持つ。これには明らかに、必要な制限プロパティがあります。平均はすべて標準正規なので、制限では平均は標準正規です。 $Z$ $Z_1, Z_2, \ldots, Z_n, \ldots$ $Z$

そのcfは

\begin{matrix} (2) & ψ_{Z} (t) = e^{- t^{2} / 2} . \end{matrix}

$\psi_Z(t) = e^{-t^2/2}.\tag{2}$

摂動については、無限の期待値を持つランダム変数を選択します。が扱いやすいcfを持っていると便利です。私はレビ分布（別名 1/2安定分布、または逆ガンマ分布）を提案したいと思います。 $Y$ $Y$ $\alpha=1/2,\ \beta=1$ $(1/2,1/2)$

ψ_{Y} (t) = e^{- \sqrt{| t |} (1 - i sgn (t))} .

$\psi_Y(t) = e^{-\sqrt{|t|}\,(1 - i \operatorname{sgn}(t))}.$

（場合、 ;。） $t\gt 0$ $\operatorname{sgn}(t)=1$ $t \lt 0,$ $\operatorname{sgn}(t)=-1$

この分布はサポートされており、有限のモーメントはありません。 $(0,\infty)$

この標準正規変数のシーケンス、正の倍数をさらに小さくしてみましょう。 $(Z_n)$ $Y$ （正の値は不要ですが、関数での簡単になります。）倍数のシーケンスを決定するために、します。したがって、確率変数のシーケンスはとして定義されます。ここでは、と同じ分布を持つ確率変数のiidシーケンスです。 $\operatorname{sgn}$ $p_1,p_2,p_3,\ldots,$

X_{n} = Z_{n} + p_{n} Y_{n}

$X_n=Z_n + p_n Y_n$

(Y_{n})

$(Y_n)$

Y

$Y$

直感

心配する必要があるのは、摂動が非常に悪いために標準正規分布への収束が台無しになるかどうかです。 このような重い裾の分布の経験を持つ人にとって、これは本当の懸念です：追加された少しのが時々、部分的な合計圧倒するような途方もない大きな外れ値を可能性がある一定の確率があります。特性関数を使用する全体の理由は、摂動の量（）を十分に迅速に減らした場合、長期的にはこれが起こらないことを示すためです。 $Y_n$ $Z_n$ $S_n$ $p_n$

正式な計算

まず、は無限の期待があります。 $X_n$

E [X_{n}] = E [Z_{n} + p_{n} Y_{n}] = E [Z] + p_{n} E [Y] = p_{n} E [Y]

$E[X_n] = E[Z_n + p_n Y_n] = E[Z] + p_n E[Y] = p_n E[Y]$

は無限であるため、無限でなければなりません。したがって、このシーケンスは問題のすべての要件を満たします。 $E[Y]$ $(X_n)$

部分平均の分析に移りましょう。を部分平均に繰り返し適用 $(1)$

S_{n} = \frac{X_{1} + X_{2} + \dots + X_{n}}{\sqrt{n}}

$S_n = \frac{X_1 + X_2 + \cdots + X_n}{\sqrt{n}}$

与える

\begin{matrix} (3) & \begin{aligned} ψ_{S_{n}} (t) & = [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{1} t / \sqrt{n})] \dots [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{n} t / \sqrt{n})] \\ = [e^{- (t / \sqrt{n})^{2} / 2} \dots e^{- (t / \sqrt{n})^{2} / 2}] [ψ_{Y} (p_{1} t / \sqrt{n}) \dots ψ_{Y} (p_{n} t / \sqrt{n})] \\ = e^{- t^{2} / (2 n) - t^{2} / (2 n) - \dots - t^{2} / (2 n)} e^{\sqrt{| p_{1} t / \sqrt{n} |} (- 1 + i sgn (p_{1} t / \sqrt{n})} \dots e^{\sqrt{| p_{n} t / \sqrt{n} |} (- 1 + i sgn (p_{n} t / \sqrt{n})} . \end{aligned} \end{matrix}

$\eqalign{ \psi_{S_n}(t) &= \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_1 t/\sqrt{n})}\right] \cdots \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_n t/\sqrt{n})}\right] \\ &= \left[e^{-(t/\sqrt{n})^2/2} \cdots e^{-(t/\sqrt{n})^2/2}\right] \left[\color{Blue}{\psi_Y(p_1t/\sqrt{n}) \cdots \psi_Y(p_nt/\sqrt{n})}\right] \\ &= e^{-t^2/(2n) - t^2/(2n) - \cdots - t^2/(2n)}\quad \color{Blue}{e^{\sqrt{|p_1t/\sqrt{n}|}(-1+i\operatorname{sgn}(p_1t/\sqrt{n})} \cdots e^{\sqrt{|p_nt/\sqrt{n}|}(-1+i\operatorname{sgn}(p_nt/\sqrt{n})} }.\tag{3} }$

のブラックパワーを収集するとのパワーが得られますが、（摂動から生じる）ブルーパワーを収集すると、 $e$ $-t^2/2$

\begin{matrix} (4) & \sum_{i = 1}^{n} \sqrt{| p_{i} t / \sqrt{n} |} (- 1 + i sgn (p_{i} t / \sqrt{n})) = \sqrt{| t |} (- 1 + i sgn (t)) \frac{\sum_{i = 1}^{n} \sqrt{p_{i}}}{n^{1 / 4}} \end{matrix}

$\sum_{i=1}^n \color{blue}{\sqrt{|p_it/\sqrt{n}|}(-1+i\operatorname{sgn}(p_it/\sqrt{n}))} = \sqrt{|t|}(-1+i\operatorname{sgn}(t))\frac{\sum_{i=1}^n \sqrt{p_i}}{n^{1/4}}\tag{4}$

なぜなら、すべての正です。以降、任意の固定、が増加すると値はゼロになりますこれを実現する1つの方法は、の合計を収束させることです。たとえば、とします。その後 $n$ $p_i$ $|-1 + i\operatorname{sgn}(t)| \le \sqrt{2}$ $t$ $(4)$ $n$ $\sum_{i=1}^n\sqrt{p_i} = o(n^{-1/4}).$ $\sqrt{p_i}$ $p_i = 2^{-2i}$

\frac{1}{n^{1 / 4}} \sum_{i = 1}^{n} \sqrt{p_{i}} \leq \frac{1}{n^{1 / 4}} (1 / 2 + 1 / 4 + \dots + 1 / 2^{n} + \dots) = \frac{1}{n^{1 / 4}} \to 0.

$\frac{1}{n^{1/4}} \sum_{i=1}^n \sqrt{p_i} \le \frac{1}{n^{1/4}} (1/2+1/4+\cdots+1/2^n+\cdots) = \frac{1}{n^{1/4}}\to 0.$

指数関数が連続であるため、その結果、、青用語に収束：彼らが限界に影響を与えません。は収束すると結論付けます。これは標準正規分布のcfであるため、レヴィの連続性定理はが標準正規分布QEDに収束することを意味します。 $0$ $(3)$ $e^0=1$ $(\psi_{S_n})$ $\psi_X$ $S_n$

ここに表示されるアイデアは一般化することができます。が標準のNormalである必要はありません。（通常の中心極限定理によって）平均と単位分散がゼロのiidで十分です。 CLTの拡張が確立されているようです。無限の期待値と分散を持つ変数であっても、一連の独立した確率変数の平均の分布は、（適切に標準化されている場合）標準正規分布に収束できます。確率変数の大きさは十分に速く小さくなります。 $X_n$

— whuber
ソース