確率の収束とほぼ確実な収束

67

これら2つの収束の尺度の違いを実際に見たことはありません。（または、実際には、さまざまなタイプの収束のいずれかですが、特にこれらの2つは、多数の弱法則と強力な法則のために言及しています。）

確かに、私はそれぞれの定義を引用し、それらが異なる場合の例を与えることができますが、それでもまだよくわかりません。

違いを理解する良い方法は何ですか？なぜ違いが重要なのですか？それらが異なる特に記憶に残る例はありますか？

probability random-variable

— レグチン
ソース

また、これに対する答え： stats.stackexchange.com/questions/72859/...

— はKjetil BはHalvorsenの

重複の可能性強い一貫性を必要とする統計アプリケーションはありますか？

— kjetil bハルヴォルセン

67

私の観点からは、違いは重要ですが、主に哲学的な理由からです。時間とともに改善するデバイスがあると仮定します。そのため、デバイスを使用するたびに、デバイスが故障する確率は以前よりも低くなります。

確率の収束は、使用回数が無限になると失敗の可能性がゼロになることを示しています。そのため、デバイスを何度も使用した後、デバイスが正常に機能していることを確信できますが、それでも失敗する可能性があります。

収束はほぼ確実に少し強くなります。それは失敗の総数が有限であると言います。つまり、使用回数が無限になったときに失敗の数をカウントすると、有限の数が得られます。この影響は次のとおりです。デバイスをますます使用するにつれて、使用回数が有限になった後、すべての障害がなくなります。それ以降、デバイスは完全に動作します。

スリカントが指摘しているように、すべての障害をいつ使い果たしたかは実際にはわからないため、純粋に実用的な観点からは、2つの収束モードに大きな違いはありません。

しかし、個人的には、たとえば、弱い法則とは対照的に、多数の強い法則が存在することを非常に嬉しく思っています。というのも、現在では、光の速度などを取得するための科学的な実験は、平均を取るのに正当化されているからです。少なくとも理論的には、十分なデータを取得した後、光の真の速度に任意に近づけることができます。平均化プロセスで障害が発生することはありませんが、起こりそうにありません。

$\delta > 0$ $n$ $X_1,X_2,\dots,X_n$ $\mu$

S_{n} = \frac{1}{n} \sum_{k = 1}^{n} X_{k} .

$S_n = \frac{1}{n}\sum_{k=1}^n X_k.$

n

$n$

S_{n}

$S_n$

n = 1, 2, \dots

$n = 1,2,\dots$

X_{n}

$X_n$

P (| S_{n} - μ | > δ) \to 0

$P(|S_n - \mu| > \delta) \rightarrow 0$

n

$n$

\infty

$\infty$

| S_{n} - μ |

$|S_n - \mu|$

δ

$\delta$

I (| S_{n} - μ | > δ)

$I(|S_n - \mu| > \delta)$

| S_{n} - μ | > δ

$|S_n - \mu| > \delta$

\sum_{n = 1}^{\infty} I (| S_{n} - μ | > δ)

$\sum_{n=1}^{\infty}I(|S_n - \mu| > \delta)$

S_{n}

$S_n$

n_{0}

$n_0$

| S_{n} - μ | < δ

$|S_n - \mu| < \delta$

n > n_{0}

$n > n_0$

n > n_{0}

$n > n_0$

— ロビー・マッキリアム
ソース

1

おかげで、私は無限のシリーズの視点の収束が好きです！

— -raegtin

1

あなたは可算であり、必ずしも有限ではないことを意味すると思いますが、間違っていますか？または、積分と混合しています。

— ロイ

より正確には、発生する（または発生しない）イベントのセットは、ゼロの測定値->ゼロの発生確率です。

— ロイ

n_{0}

$n_0$

n_{0}

$n_0$

33

私はこの質問はすでに（私の見解では、非常によくして）回答されている知っているが、別の質問がありました、ここでグラフィカルな説明を述べたコメント@NRHを持っていた、というより絵を入れてあり、それは、よりフィット思われますここに入れて

それで、ここに行きます。Rパッケージほどクールではありません。ただし、自己完結型であり、JSTORのサブスクリプションは必要ありません。

$X_{i}= \pm 1$

\frac{S_{n}}{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}, n = 1, 2, \dots .

$\frac{S_{n}}{n} = \frac{1}{n}\sum_{i = 1}^{n}X_{i},\quad n=1,2,\ldots.$

多数の強い法則

SLLN（ほぼ確実に収束）は、右に伸びるこの曲線が最終的に、ある有限の時間で、完全にバンド内に完全に収まることを100％確信できると言います（右）。

このグラフの生成に使用されるRコードは以下のとおりです（簡潔にするためにプロットラベルは省略されています）。

n <- 1000;  m <- 50; e <- 0.05
s <- cumsum(2*(rbinom(n, size=1, prob=0.5) - 0.5))
plot(s/seq.int(n), type = "l", ylim = c(-0.4, 0.4))
abline(h = c(-e,e), lty = 2)

多数の弱い法則

$n$

グラフのRコードが続きます（ラベルをスキップします）。

x <- matrix(2*(rbinom(n*m, size=1, prob=0.5) - 0.5), ncol = m)
y <- apply(x, 2, function(z) cumsum(z)/seq_along(z))
matplot(y, type = "l", ylim = c(-0.4,0.4))
abline(h = c(-e,e), lty = 2, lwd = 2)

— コミュニティ
ソース

6

次のように理解しています

確率の収束

ランダム変数のシーケンスが目標値に等しい確率は漸近的に減少し、0に近づきますが、実際に0に達することはありません。

ほぼ確実な収束

ランダム変数のシーケンスは漸近的に目標値に等しくなりますが、どの時点で発生するかを予測することはできません。

$\equiv$

wikiには（特にPROBにおける収束の状況と、ほぼ必ず収束の文脈における慈善の例では射手の例を参照）上記を明確に助けるべき両方のいくつかの例があります。

実際的な見地からは、非常にありそうもない出来事を特に気にしないので、確率の収束は十分です。例として、推定量の一貫性は、本質的に確率の収束です。したがって、一貫性のある推定値を使用する場合、大きなサンプルでは推定値が真の値から遠いという非常に小さな確率があるという事実を暗黙のうちに認めます。漸近的に、推定器が真実から遠くなる確率は無視できるほど小さいことがわかっているので、確率の収束のこの「欠陥」とともに生きています。

— gung-モニカの復職
ソース

試みられた編集者は、これは「ランダム変数のシーケンスが目標値と等しくない確率...」と読むべきだと主張します。

— GUNG -モニカ元に戻し

「確率変数のシーケンスが目標値に等しい確率は漸近的に減少し、0に近づきますが、実際に0に達することはありません。」実際に0になってはならないのではないでしょうか？

— ジョティシュロビン

@gung目標値に等しい確率が1に近づくか、目標値に等しくない確率が0に近づきます。現在の定義は正しくありません。

— Undertherainbow

5

視覚的な説明を楽しんでいるなら、アメリカの統計学者のこの主題に関する素晴らしい「教師のコーナー」記事がありました（以下を引用）。ボーナスとして、著者は学習を容易にするためにRパッケージを含めました。

@article{lafaye09,
  title={Understanding Convergence Concepts: A Visual-Minded and Graphical Simulation-Based Approach},
  author={Lafaye de Micheaux, P. and Liquet, B.},
  journal={The American Statistician},
  volume={63},
  number={2},
  pages={173--178},
  year={2009},
  publisher={ASA}
}

— キングスフォード・ジョーンズ
ソース

1

この最後の男はそれを非常によく説明しています。確率1 / nで確率変数Xn = 1のシーケンスを取得し、それ以外の場合はゼロ。これが確率でゼロに収束するが、ほぼ確実に収束しないことを制限することは簡単にわかります。彼が言ったように、確率は私たちが道を行くかもしれないことを気にしません。ほぼ確実です。

ほぼ確実に確率の収束を意味しますが、ヤの周りの他の方法ではありませんか？

— ティム・ブラウン
ソース

5

サイト@ Tim-Brownへようこそ。ここで質問にお答えいただきありがとうございます。注意すべきことの1つは、回答者のユーザー名で他の回答を識別することが最善であるということです。「この最後の男」はあまり効果的ではありません。たとえば、人々が投票すると、リストは時間の経過とともに並べ替えられます。あなたは私たちの読むことをお勧めしますよくある質問を。

— GUNG -モニカ元に戻し

0

違いを把握するのに役立った1つのことは、次の同等性です。

$P({\lim_{n\to\infty}|X_n-X|=0})=1 \Leftarrow \Rightarrow \lim_{n\to\infty}({\sup_{m>=n}|X_m-X|>\epsilon })=0$ $\forall \epsilon > 0$

比較すると、確率的収束：

$\lim_{n\to\infty}P(|X_n-X|>\epsilon) = 0$ $\forall \epsilon >0$

上の等式の右側を確率的収束と比較すると、違いがより明確になると思います。

— セバスチャン
ソース