デ・フィネッティの表現定理の何がそんなにクールなのですか？

Mark J. Schervishによる統計理論から（12ページ）：

DeFinettiの表現定理1.49は、パラメトリックモデルの動機付けの中心ですが、実際の実装では使用されていません。

定理はどのようにパラメトリックモデルの中心にありますか？

— gui11aume
ソース

ベイジアンモデルの中心だと思います。私はシングルトンでこれについて議論していました。これは、ベイジアン統計で重要であり、deFinettiのフォロワーであるベイジアン以外は見落とされます。1980年のディアコニスとフリードマンの

— マイケルチャーニック

@cardinal：12ページ（質問を更新しました）。

— -gui11aume

シェルビッシュは「... パラメトリックモデルの

中心...」と述べていることに注意してください

motivating

$\textbf{motivating}$ 。

— 禅

私はしばしば、どのくらいの表現が「本物」であり、どれだけが定理の特定の解釈に基づいているのかと疑問に思っていました。これは、モデルの記述と同様に、事前分布の記述にも簡単に使用できます。

— 確率論的

回答:

De Finettiの表現定理は、確率の主観主義的解釈の範囲内で、統計モデルの存在理由とパラメーターの意味とその事前分布を1つのテイクで示します。

ランダム変数がコインの連続したトスの結果を表し、値とそれぞれ結果「Heads」と「Tails」に対応するとします。分析、確率計算のsubjectivistic解釈、その下に通常のfrequentistモデルの意味の範囲内で「sは独立しており、同一分布、デFinettiは、独立性の条件があること、例えば、暗示することを観察した $X_1,\dots,X_n$ $1$ $0$ $X_i$ したがって、最初の回のトスの結果は、番目のトスの結果に関する不確実性を変えません。たとえば、これがバランスの取れたコインでに信じる場合、最初のトスが「ヘッド」であることが判明したという情報を取得した後、その情報を条件として、「トス1000年の首脳は」に等しい。事実上、の独立性の仮説は、その投げの結果を観察することによってコインについて何かを学ぶことは不可能であることを意味します。

P {{バツ}_{n} = {バツ}_{n} ∣ {バツ}_{1} = {バツ}_{1} 、 \dots 、 {バツ}_{n - 1} = {バツ}_{n - 1}} = P {{バツ}_{n} = {バツ}_{n}} 、

$P\{X_n=x_n\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = P\{X_n=x_n\} \, ,$

n - 1

$n-1$

n

$n$

a priori

$\textit{a priori}$

999

$999$

1 / 2

$1/2$

X_{i}

$X_i$

この観察により、デ・フィネッティは、この明らかな矛盾を解決する独立性よりも弱い条件を導入することになりました。De Finettiのソリューションの鍵は、交換可能性として知られる一種の分布対称性です。

所与の有限集合のためにランダムオブジェクトの、聞かせ共同分布を示します。この有限のセットは、交換可能であるか、すべての順列のための $\textbf{Definition.}$ $\{X_i\}_{i=1}^n$ $\mu_{X_1,\dots,X_n}$ $\mu_{X_1,\dots,X_n} = \mu_{X_{\pi(1)},\dots,X_{\pi(n)}}$ 。シーケンスの有限の部分集合の各々は交換可能である場合、ランダムオブジェクトは交換です。 $\pi:\{1,\dots,n\}\to\{1,\dots,n\}$ $\{X_i\}_{i=1}^\infty$

ランダム変数のシーケンスのみと仮定すると交換可能であり、デFinettiは、一般的に使用される統計モデルの意味に光を当て顕著な定理を証明しました。特定の場合に「sは値取りと、デFinettiの表現定理と言うあれば交換可能であり、確率変数がある場合にのみ、、分布あり $\{X_i\}_{i=1}^\infty$ $X_i$ $0$ $1$ $\{X_i\}_{i=1}^\infty$ $\Theta:\Omega\to[0,1]$ ように、 $\mu_\Theta$ ここでです。また、我々はその

P {{バツ}_{1} = {バツ}_{1} 、 \dots 、 {バツ}_{n} = {バツ}_{n}} = \int_{[0 、 1]} θ^{s} （ 1 - θ ）^{n - s} d μ_{Θ} （ θ ） 、

$P\{X_1=x_1,\dots,X_n=x_n\} = \int_{[0,1]} \theta^s(1-\theta)^{n-s}\,d\mu_\Theta(\theta) \, ,$

s = \sum_{i = 1}^{n} x_{i}

$s=\sum_{i=1}^n x_i$

これはDe Finettiの強い数の法則として知られています。

{\bar{バツ}}_{n} = \frac{1}{n} \sum_{私 = 1}^{n} {バツ}_{私} \to_{n \to \infty}^{} Θ ほぼ確実に 、

$\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow[n\to\infty]{} \Theta \qquad \textrm{almost surely},$

この表現定理は、統計モデルは、ベイズコンテキストで出現を示し：観測の交換性の仮定の下で、の値が与えられたような、ことを、観測である独立したと同じように配布されます。また、デFinettiの強力な法律が観察不能についての我々の前に意見することを示している分布によって表される、、の限界について意見です $\{X_i\}_{i=1}^\infty$ $\textbf{there is}$ $\textit{parameter}$ $\Theta$ $\Theta$ $\textit{conditionally}$ $\Theta$ $\mu_\Theta$ $\bar{X}_n$ 、のいずれかの実現の値に関する情報を得る前に。パラメーターは、有用な補助構成の役割を果たします。これにより、ような関係を通じて、観測可能量のみを含む条件付き確率を取得できます $X_i$ $\Theta$

P {{バツ}_{n} = 1 ∣ {バツ}_{1} = {バツ}_{1} 、 \dots 、 {バツ}_{n - 1} = {バツ}_{n - 1}} = E [Θ ∣ {バツ}_{1} = {バツ}_{1} 、 \dots 、 {バツ}_{n - 1} = {バツ}_{n - 1}] 。

$P\{X_n=1\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = \mathrm{E}\left[\Theta\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\right] \, .$

— 禅
ソース

この洞察に満ちた答えをありがとう！独立性についてのあなたの主張は、私が初めて認識した非常に重要なものです。

— -gui11aume

（「役に立つ」ほうが良かった:)）

— ニールG

Θ

$\Theta$

Θ

$\Theta$

X_{i}

$X_i$

E [θ^{s} (1 - θ)^{s}] = E [P (X_{i} = x_{i} \forall i | θ)]

$E [\theta^s (1-\theta)^s] = E[P(X_i = x_i \, \forall \, i | \theta) ]$

θ

$\theta$

Pr {X_{1} = x_{1}, \dots, X_{n} = x_{n} ∣ Θ = θ}

$\Pr\{X_1=x_1,\dots,X_n=x_n\mid\Theta=\theta\}$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

X_{i}

$X_i$

Θ = θ

$\Theta=\theta$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

Zenの答えでは、すべてが数学的に正しいです。しかし、私はいくつかの点に同意しません。私の見解が良いものであると主張/信じていないことに注意してください。それどころか、これらの点はまだ完全には明らかではないと感じています。これらは、私が議論したい（そして私にとって良い英語のエクササイズ）ことに関する哲学的な質問であり、アドバイスにも興味があります。

$999$ $X_i$ $\theta$ $\theta$ $999$ $999$ $\theta$ $1$ $\Pr(X_n=1)$
$\Theta$ $\theta = \bar X_\infty$ $\theta$ $\bar X_\infty$ $\Theta$ $0$ $1$
$(X_i\mid\Theta=\theta)\sim_\text{iid} \text{Bernoulli}(\theta)$ $\Theta \sim \text{Beta}(a,b)$ $a$ $b$ $\Theta$ $\Theta$

遅いです...

— ステファン・ローラン
ソース

"this is not true from the frequentist perspective"

$\textbf{"this is not true from the frequentist perspective"}$

Θ

$\Theta$

{\bar{X}}_{n}

$\bar{X}_n$

Θ

$\Theta$

μ_{Θ}

$\mu_\Theta$

a posteriori

$\textit{a posteriori}$

Θ

$\Theta$

θ

$\theta$

3番目の箇条書きについて：1）シェルビッシュはベイズ統計学者である。2）彼が本の中で交換可能性について議論するのに費やす時間とエネルギーの量。彼にとって、デ・フィネッティの定理の役割は非常に深く、クールさをはるかに超えていると考えています。しかし、とにかくとてもクールだと思います！

— 禅

θ

$\theta$

θ

$\theta$

Θ

$\Theta$

a

$a$

b

$b$

あなたはこのテーマに関する論文に興味があるかもしれません（アクセスするにはジャーナル購読が必要です-あなたの大学からアクセスしてみてください）：

O'Neill、B.（2011）交換可能性、相関、ベイズ効果。国際統計レビュー77（2）、pp。241-250。

この論文では、ベイズおよび頻度の両方のIIDモデルの基礎としての表現定理について説明し、コイン投げの例にも適用します。それは、頻繁なパラダイムの仮定の議論を明確にする必要があります。実際には、二項モデルを超えた表現定理へのより広範な拡張を使用しますが、それでも有用なはずです。

— 統計
ソース

おそらくこれの実用的な紙のバージョンがありますか？アクセスATMがありません:-(

— IMA

@Statsあなたの答えを見た後、私はその論文を読みました。私は言わなければならない、それは私が今まで見たその問題に関するベイジアンとフリークエンティストを説明する最高の論文です。この論文をもっと早く読んでいたらいいのですが。（+1）

— ケビンキム