確率0の何かが起こったとき、ベイジアンはどのように彼の信念を更新しますか?


9

定義します。=「コインの頭に着地する確率は1です」事前の信念P X = 1があると仮定します。ただし、コインを投げた後、尾が着地した後(E = "コインが着陸した尾")。ベイジアンは一貫性を保つためにどのように彼の信念を更新すべきですか? P X | E は、P E = 0であるため、未定義です。しかし、彼の以前の信念は信じられないほど(もちろん、確率0が不可能というわけではないので)、なんらかの規則に従って何らかの形で信念を更新できるはずだと私には思われます。X:=P(X)=1E:=P(X|E)P(E)=0

これはベイジアン更新が機能しない単なる病理的なケースですか、この問題の解決策を知らないのですか?


2
例としては、彼が女性であることを認識している場合などです。
Nick Cox

6
この質問は、ベイズ分析よりも範囲がはるかに広いと思います。自分の仮定が間違っているという証拠に直面して何をすべきか本当に尋ねているのではないでしょうか。これらの状況は常に発生するため、私はこれらの状況を「病理学的」と呼ぶのをためらいます。本当に病理的であるのは、人が議論の余地のない証拠に直面して彼らの仮定(または信念)を変えることを拒否する状況です。(そのような人々は通常「ベイジアン」ではなく「政治家」と呼ばれます:
whuber

@whuber私は皆、(間違った種類の)政治家を楽しませたり軽蔑したりしていますが、科学もまた無縁ではありません。プランクは自叙伝で、新しい理論は、真剣にそれを受け入れることを拒否した年配の世代がすべて亡くなったときにのみ勝利することもあると述べた。
Nick Cox

@ニック科学の状況はそれよりも複雑だと理解していると思います。(はい、政治の状況ももっと複雑です...)。半世紀前、トーマス・クーンはそれを高く評価し、より深い理由を解明した最初の人の一人でした。
whuber

2
@whuber同意した。優れた科学者は論理と証拠に直面して彼らの心をすばやく変えます、そして、私たちの多くは彼らと一緒に公表しようとさえする前に多くのひどい考えを捨てます。(詳細:Planckのリファレンスに最初に出会ったと思うのは、クーンで最も有名な本でした。)
Nick Cox

回答:


5

この場合、事後確率は有効です

これは、確率の基礎の領域に入る興味深い質問です。ここではいくつかの可能なアプローチがありますが、後で詳しく説明する理由から、私が好むアプローチは、条件付き確率のより広い定義を与えることです。これは、連続確率変数を扱う場合の定義に類似しています。(この方法の詳細は以下に示されています。)この特定のケースでは、ベイジアンがXに関するあらゆる事後の信念を保持できるという結論につながり、信念の一貫したセットが得られます(彼らが信じているイベントを観察したにもかかわらず)確率ゼロを持っている)。

このアプローチの利点は、明確に定義された事後分布が得られ、ベイジアンが確率ゼロで発生するように規定されたイベントを観察することを条件として、信念を更新できることです。事後は本質的に任意に更新されます(事後確率は同様にコヒーレントです)が、発生したことを考えると、その柔軟性は驚くべきことではありません。この場合、以前の信念が同じであるさまざまなベイジアンは、すべての確率でアプリオリにゼロの確率でイベントを観察したという事実により、正当に異なる事後結論に達する可能性があります。


連続確率変数の条件付き確率:連続確率変数を扱う場合、条件付き確率関数はラドンニコディム導関数によって定義され、本質的には結合確率の法則を満たす関数を必要とします。場合XおよびE確率空間における連続確率変数(というよりも、離散事象)だった(Ω,G,P)我々は条件付き確率関数定義しp(x|e)任意の非負測定可能な関数として満たす整数方程式:

p(x)=Ep(x|e) dP(e)for all xXG.

以来、p(x)もラドンNikodym誘導体を介して定義され、これは暗黙的にその意味p(x|e):任意の非負関数測定可能であることができる満たす積分方程式

P(XA)=AEp(x|e) dP(e) dxfor all AG.

これにより、条件付き確率関数の一意でない解が得られますが、実際には、すべての解は「ほぼ確実に」同等です(つまり、それらは確率ゼロの一連の結果でのみ異なるため)、一意性に問題はありません。 。

離散イベントの条件付き確率の定義:離散イベントの条件付き確率の標準的な定義は、よく知られた比率式であり、分母は条件付けイベントの確率です。明らかに、条件付けイベントの確率がゼロの場合、このオブジェクトは未定義です。ここでの明白な解決策は、継続的なケースで使用される方法に類似した方法で定義を広げることです。それは、我々は条件付き確率ペア定義であるP(X|E)P(X|E¯)式を満足する0と1の間の値の任意の対として:

P(X)=P(X|E)×P(E)+P(X|E¯)×(1P(E)).

P(X)=1P(E|X)=0P(E)=0

1=P(X|E)×0+P(X|E¯)×1.

P(X|E¯)=10P(X|E)1P(X|E)


このアプローチが最も理にかなっている理由:ベイジアン分析が、事前分布で規定されたゼロの確率を持つ離散イベントの観測を含む可能性があることは完全に可能です。たとえば、コインフリッピングの標準モデルでは、表/裏の結果のベルヌーイ分布を規定していますが、コインがその端で止まる可能性があります(したがって、表でも裏でもありません)。この場合、脳は爆発してはならないため、この場合、明確に定義された進行方法を持つことはベイジアン推論の責任です。

私が概説したアプローチの主な利点は、事後確率の少なくとも1つの許容値に常につながることです(つまり、事後確率は明確に定義されています)。事後確率は一意に定義されていませんが、これは、ゼロ確率サンプリングの観測値と等しくコヒーレントな値がいくつかあるという事実の自然な派生物です。このアプローチは、ベイジアンが事後確率を自由に規定できることを意味し、これは他のものと同じように一貫しています。(ここで「一貫性がある」と言うときは、実際に発生した個別のイベントの確率ゼロを規定したという以前の信念との一貫性について話しているので、それとの一貫性は高い基準ではありません!)

このアプローチには別の大きな利点があります。これは、以前にサンプリング確率がゼロであったイベントの観察に応答して、ベイズの信念を更新できることです。特に、ベイズは信念を修正できるようになりました。そのため、彼らはもはやこのイベントにゼロ確率を割り当ていません。あなたが与える例では、ベイジアンは、がほぼ確実に真であるという以前の信念を持っていました。このイベントを条件として、サンプリング確率がゼロのイベントを購入して観察しました。これで、ベイジアンは、信念を1ではない事後確率に自由に更新できます(したがって、対応する事後確率XX X¯それはゼロではありません)。つまり、本質的に、ベイジアンは「ああ、なんてことだ!それはばかげた以前のことだった!ほとんど確実に起こらないように、その出来事に対する私の信念を更新しよう!」と言うことができる。さらに、これは特別な変更ではなく、ベイズの定理に基づいて行われた正当な「一貫した」更新です。


3

ベイジアンかどうかにかかわらず、すべての推論には、起こりうるすべてのことがわかっており、それを説明しているという暗黙の前提があります。モデルで不可能である何かが発生した場合、それは単にその仮定が誤っていることを意味します。原則として、モデルを元に戻して拡張し、最初からやり直します。少なくともベイジアンフレームワークでは、このプロセスは比較的簡単に形式化できます。単一のモデル内で推論する代わりに、モデルのセットで推論を行います。

ある時点で、モデル内にモデルをネストする人間の能力が不足する必要があります。自動化されたヘルプ(コンピュータなど)を使用しても、「すべてのモデルの母」の複雑さには上限があるはずです。そのような状況で何をすべきか私にはわかりませんが、アプリケーションで見られる典型的なパラメトリックモデルで作業しているとき、私たちは確かにそれから遠く離れています。


2

これは論理の分野に関連しています。特に、falseのステートメントは、trueまたはfalseの他のすべてのステートメントを意味します。あなたのシナリオでは、は偽のステートメントです。つまり、他の命題に対してを書くことができます。たとえば、(テールを意味する)と(テールを意味しない)があります!XXSSXEXEc

これはベンの解決策とも一致します(後部を任意の値に設定します)。もちろん、これはアプリケーションではあまり役に立ちません。私が望むどんな結果でも補うために数学的なフレームワークを必要としないことに私はかなり確信しているからです。

それが意味することは、人は彼らの以前の確率に既知の虚偽の陳述を含めるべきではないということです。これは、データについて誤ったステートメントを使用してはならないのと同じです。「ブラックスワン」タイプの問題への対処という点では、「実用的な仮定」が誤っている可能性をゼロではない小さな値に割り当てることで、概念的に対処できます。このステートメントを「私の作業の仮定は正しい」と呼び、それをに等しく設定します。動作する仮定の下でいくつかの不可能な状況があります。これは、「不可能な」領域に存在する 「データ」いくつかの値の可能性であることを意味しますAwp(Aw)=1ϵp(dDimpossible|Aw)=0dDimpossibleQ:=dDimpossiblep(Qc|Aw)=1p(Q|Aw)=1p(Q|Awc)=δ>0p(Qc|Awc)=1p(Q|Awc)=1δ

Qc

p(Aw|Qc)=p(Aw)p(Qc|Aw)p(Aw)p(Qc|Aw)+p(Awc)p(Qc|Awc)=1ϵ1ϵ+ϵ(1δ)=1ϵ1δϵ>1ϵ

Q

p(Aw|Q)=p(Aw)p(Q|Aw)p(Aw)p(Q|Aw)+p(Awc)p(Q|Awc)=00+ϵδ=0.

ϵ

p(Aw|Qc)=1Aw,Qc

さて、不可能なことが起こったときはどうですか?さて、あなたはあなたの可能性と前にあなたの仮定で何が間違っていたかに従ってあなたの可能性と前を開梱して変える必要があります。


1
γ=1γ<1

γ=1δδ>0
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.