ベイジアンはどのくらい正確に確率を定義（または解釈）しますか？

ベイジアン対頻度論者を理解しようとする一連の流れの一部：1 2 3 4 5 6 7

ベイジアンと常連がどのように仮説の選択にアプローチするかについては違いがあると思いますが、それが確率をどのように見ているのかを私に説明するのかどうか、どのように説明するのかはよくわかりません。

私が理解していることから、Wikiによれば、頻度論者は確率を次のように「定義」しています：

確率空間与えられた場合、、、ここで、は実施された試行の数であり、はそれらの試行でAが発生した回数です。∀ A ∈ F P（A ）≈ N $(\Omega, \mathscr{F}, \mathbb{P})$$\forall A \in \mathscr{F}$ ntn$\mathbb{P}(A) \approx \frac{n_A}{n_t}$$n_t$$n_A$

さらに、です。$\mathbb{P}(A) = \lim_{n_t \to \infty} \frac{n_A}{n_t}$

では、ベイジアンはどのように確率を定義するのでしょうか？上記は、確率を定義することに加えて、イベントの確率を計算する1つのアプローチのようです。

ベイジアンは事前確率を仮定し、いくつかの試行を行ってから確率を更新するように見えますが、それが実際に確率がどのように定義されているかを説明しているようには見えません。

Wikiは、「ベイジアン確率は、知識の状態または信念の状態を表す目的で割り当てる量です」と述べています。

どういう意味ですか？州は同義語ですか？たとえば、特定のコインが公正であるというウォルターの信念の状態は0.1で表され、同じコインが公正であるというジェシーの信念の状態は0.2で表されます。新しい情報があれば、ウォルターの信念の状態は0.96になり、ジェシーの信念の状態は0.03になる可能性があります。それで、当初、ウォルターはコインが公正であると信じる傾向が少なかったが、後にジェシーはコインが公正であると信じる傾向が強くなったのだろうか？

上記のような常連客のようなシンボルに関して何かを期待しています。

同じWikiページでは、「確率のベイジアン解釈は、仮説、つまり真理または誤りが不確かな命題を用いた推論を可能にする命題論理の拡張と見なすことができます」と述べています。それぞれブール論理。

私は、ほとんどの「頻度主義者」と「ベイジアン」が同じ方法で確率を厳密に定義すると信じています：コルモゴロフの公理と測度理論を介して、あなたが話している相手に応じて、有限対可算性に関するいくつかの問題を法としてください。したがって、「記号」に関しては、多かれ少なかれ同じ定義が全体で見つかると思います。誰もが確率の振る舞いに同意します。

主な違いは、確率とは何かの解釈にあります。私の（舌のような過激なベイジアン）好ましい解釈は、確率はイベントに関する情報の首尾一貫した表現であるというものです。

ここでの「コヒーレント」には技術的な意味があります。つまり、私が世界に関する情報を確率で表し、それらの確率を使用して、特定のイベントの発生または非発生に対する私の賭けのサイズを決めた場合、私はできないことを確信しています私に賭けるエージェントによって確実な敗者にされます。

これには「長期相対頻度」の概念が含まれないことに注意してください。確かに、私は確率の言語を介して、明日爆発する太陽のような1回限りのイベントに関する私の情報を首尾一貫して表すことができます。一方、長期的な相対頻度の観点から、「太陽は明日爆発する」という出来事について話すことは、より難しい（あるいはおそらく自然ではない）ようです。

この質問の詳細については、Jay Kadaneの優れた（そして無料の）Principles of Uncertaintyの最初の章を参照してください。

更新：一貫性を示す比較的非公式なブログ投稿を書きました。

他の人がすでに述べたように、確率の特定のベイズ定義はありません。確率を定義する方法は1つしかありません。つまり、確率の公理に従い、確率メジャーによってイベントに割り当てられた実数です。確率の定義が異なる場合、人々はその背後にある異なることを理解するため、確率を一貫して使用することはできません。

定義方法は1つだけですが、確率を解釈する方法は複数あります。確率は数学的概念であり、実際の世界とは何の関係もありません（de Finettiを引用すると、「確率は存在しません」）。これを現実の世界に適用するには、数学を現実の出来事に翻訳または解釈する必要があります。確率を解釈する方法は複数あり、ベイジアン間の解釈もさまざまです（レビューについては、スタンフォード哲学百科事典の確率の解釈を参照してください）。ベイジアン統計に最も一般的に関連付けられているのは、主観主義的見解であり、これは個人的確率としても知られています。

主観主義の見方では、確率は信念の度合い、または確認の度合いです。それは、誰かが信じられるものをどれほど考えているかを測定します。賭け行動の観点から最も明確に分析または観察できます（de Finetti、1937、Savage、1976、Kemeny、1955も参照）：

ある個人が、与えられたイベント発生に応じて、 任意の合計（正または負）の所有を、合計の所有と交換する準備ができているレートを評価する義務があると仮定します。; 定義により、この数は、イベントと見なされた個人に起因する確率の度合いの測定値である、またはより簡単に、はの確率（考慮された個人によると、この仕様はあいまいさがなければ暗黙的）。$p$$S$$E$$pS$$p$$E$$p$$E$

賭けは、彼が何かが「そうである可能性が高い」と信じていることを定量化する必要がある状況の1つであり、そのような信念の尺度は明らかに確率です。そのような信念を数字に、少なくとも信念の測定、つまり確率に変換する。

主観主義者の間の主要人物の一人であるブルーノ・デ・フィネッティは、主観主義者の見解が確率の公理と首尾一貫しており、それらを従う必要があることに気づきました：

私たちだけが認める場合、最初に、1つの不確実なイベントは（a）確率が等しい、（b）可能性が高い、または（c）可能性が低い別のイベントにしか現れないということです。第二に、不確実なイベントは常に私たちには不可能なイベントよりも可能性が高く、必要なイベントよりも可能性が低いように見えます。そして最後に、私たちはイベントを判断する際、第3より可能性の高い、イベントイベントその後、自身で、より多くの可能性 、そしてイベントのだけにして、より可能性の高い表示されることが$E'$$E$$E''$$E'$$E''$ （推移的性質）、確率の理論全体を厳密に構築するために、3つの明白な自明な公理自体に純粋に定性的な性質の4番目の公理を追加するだけで十分です。4番目の公理は、不等式が論理和で保存されることを示していますがおよびと互換性がない場合、はよりも多かれ少なかれ可能性があります。はに比べて多かれ少なかれ可能性があり、または同等に可能性があります。より一般的には、これから次のような2つの不等式があると推定できます。$E$$E_1$$E_2$$E_1 \lor E$$E_2 \lor E$$E_1$$E_2$

$$E_1 \text{ is more probable then } E_2,\\ E_1' \text{ is more probable then } E_2',$$

与えるために追加することができます

$$E_1 \lor E_1' \text{ is more probable then } E_2 \lor E_2'$$

追加されたイベントが互いに互換性がない場合（ と、と）。$E_1$$E_1'$$E_2$$E_2'$

同様の点は、ケメニー（1955）やサベージ（1972）のような複数の異なる著者によって作成されています。彼らはまた、そのような信念の測度は確率の公理と一致している必要があることを示しています（つまり、確率のように見え、確率のようにうなずく場合...）。さらに、Cox（1946）は、確率は2進のtrueとfalseを超えて不確実性を可能にする正式なロジックの拡張と考えることができることを示しています。

ご覧のとおり、これは周波数とは関係ありません。もちろん、ニコチン喫煙者が非喫煙者よりも頻繁に癌で死亡することを観察した場合、合理的には、そのような死は喫煙者にとってより信頼できると想定するので、頻度の解釈は主観主義者の見解と矛盾しません。このような解釈が魅力的であるのは、それが頻度と関係のないケースにも適用できることです（たとえば、ドナルドトランプが2016年の米国大統領選挙で勝利する確率、他のインテリジェントな生命体が私たち以外の空間に存在する確率など） ）。主観主義的見解を採用する場合、そのようなケースを確率論的に検討し、そのようなシナリオの統計モデルを構築できます（FiveThirtyEightによる選挙予測の例を参照）、それは利用可能な証拠に基づいて信念の程度を測定することとして確率について考えることと一致しています）。これにより、そのような解釈が非常に広くなり（場合によっては、過度に広い）、確率論的思考をさまざまな問題に柔軟に適応させることができます。はい、それは主観的ですが、de Finetti（1931）は、頻出主義の定義が複数の非現実的な仮定に基づいているため、より「合理的」な解釈にならないことに気づきました。

de Finetti、B.（1937/1980）。LaPrévision：Ses Lois Logiques、Ses Sources主観。[ 先見。その論理法則、その主観的情報源。] Annales de l'Institut HenriPoincaré、7、1-68。

Kemeny、J.（1955）。公正な賭けと帰納確率。Journal of Symbolic Logic、20、263-273。

サベージ、LJ（1972）。統計の基礎。ドーバー。

コックス、RT（1946）。確率、頻度、合理的な期待。アメリカの物理学ジャーナル、14（1）、1-13。

de Finetti、B.（1931/1989）。「確率論：確率論と科学の価値に関する批評的エッセイ」。Erkenntnis、31、169-223。

私は自分の用語を信じられないほど明確にするよう努めます。あなたがしたように、1つのコインに焦点を当てますので、です。$X \sim Bernoulli(p)$$Pr(X=1) = p$

ベイジアンと頻度論者はどちらもを確率変数と見なし、確率分布について同じ見方を共有しています。ただし、ベイジアンは確率分布を使用して、固定パラメーター（この場合はに関する不確実性をモデル化します。$X$$Pr(X)$$p$

あなたが指摘したように、を定義してを定義すると、$x_1, x_2, \dots \sim Bernoulli(p)$$h_n = \sum_{i=1}^n x_i$

はのMLEであるため、これは重要です。ただし、任意の正の数（実際には正である必要さえない）に注意してください。p a 、$h_n/n$$p$$a,b$

推定器 1つは、小さなこれはおかしいかもしれません。ときに、このの最も極端な例があるの見積り、なりますまたは。を設定、2番目の推定値を使用するとどうなるでしょうか。最初のフリップでが得られた場合、更新された推定値は、が、ほど極端ではありません。、N 、N = 1 、P 0 1 、A = B = 5 1 6 / 11 50 ％$h_n/n$$n$$n = 1$$p$$0$$1$$a=b=5$$1$$6/11$$50\%$$1$

このより抑制された推定は、に関する不確実性を事前の（最終的には事後の）分布の形で表現することで簡単に導き出すことができます。この例を詳細に調べたい場合、これはBeta-Binomialとして知られています。これは、二項分布のパラメーターにベータを先行させ、結果の期待値を予測することを含みます。$p$