通常の可能性と通常の事前確率で正方形を完了するにはどうすればよいですか?


8

中断したところから正方形を完成させるにはどうすればよいですか?これまでのところ正しいですか?

私はの形式の通常の事前を持っています。P (β | σ 2)〜N(0 、σ 2 V )βp(β|σ2)∼N(0,σ2V)

p(β|σ2)=(2πσ2V)p2exp⁡[−12σ2βTβ]

ここで、は です。P Σ iは= 1 β 2 IβTβ∑i=1pβi2

私の可能性は、の形式のデータポイントyの正規分布を持っていますp(y|β,σ2)∼N(Bβ,σ2I)

p(y|β,σ2)=(2πσ2V)n2exp⁡[−12σ2(y−Bβ)T(y−Bβ)]

(も行列/ベクトルです。\ bfは機能しません。)β

後部を取得するために、上記を組み合わせ、指数部のみを取り、次に展開して以下を取得します。β

exp⁡[−12σ2(yTy−yTBβ−βBTy−βTBTBβ)]exp⁡[−12σ2(βTB)]。

関数ではないため、項を削除しました。β(yTy)β

指数なしで1つの式に入れる:

−12σ2(−yTBβ−βBTy−βTBTBβ+βTB)。

同様の用語を組み合わせて多変量正規分布の形式にする必要があることはわかっていますが、これは私が目指していることですが、これを行う方法がわかりませんか?正しい形式にするために、式に余分な用語を追加する必要があるでしょうか?

注:これは宿題ではありません。プロジェクトですが、ベイジアンの実務知識はまったく得意ではないため、問題を理解する必要があります。を統合し、次に多変量形式にした後でを統合するつもりです。βσ2


2
計算だけに関心がある場合は、このリンクが興味深いかもしれません。

それはあなたの宿題ではないかもしれませんが、私はこの問題をGelman et al Bayesianデータ分析の教科書
— David LeBauerの

上記のウィキペディアのページへのリンクは私がやろうとしていることですが、それは私がどうすればいいのかわからない実際のワークアウトです。
— エリー

私は「ベイジアンデータ分析」という本を調べていますが、第15章で、これが実際に私がしようとしているのと同じようなレイアウトであることを発見しました。
— エリー

回答:


13

元の投稿には、間違った記号やマトリックスの削除など、いくつかの数学のタイプミスがあるため、最初から始めます。V

あなたは前に指定したと可能性:P (Y | β )= N(Bのβ 、σ 2 I )。p(β)=N(0,σ2V)p(y|β)=N(Bβ,σ2I)

これらのそれぞれを純粋にβに依存する内の項の式として記述し、βに関連しないすべての項を単一の定数にグループ化できます。expββ

log⁡p(β)+const=−12σ2βTV−1β

log⁡p(y|β)+const=−12σ2(βTBTBβ−2yTBβ)(なお、常に)yTBβ=βTBTy

これらをログスペースに追加し、同様の用語を収集すると、正規化されていないログが得られます

log⁡p(β|y)+const=−12σ2(βT(V−1+BTB)β−2yTBβ) (1)

xTAx+xTCx=xT(A+C)xxA,C

β

log⁡p(β|y)+const=(β−μp)TΛp(β−μp)=βTΛpβ−2μpTΛpβ+μpTΛpμp

μp、Λp

まあ、検査式によって。(1)設定すると、このフォームによく似ています

Λp=V−1+BTB そして μp=Λp−1BTy

詳細には、この置換により(1)から必要な各項が作成されることを示すことができます。

βTΛpβ=βT(V−1+BTB)β

μpTΛpβ=(Λp−1BTy)TΛpβ=yTBΛp−1Λpβ=yTBβ

(あB)T=BTあT(Λp−1)T=Λp−1Λp

μpTΛpμpμp、Λp

log⁡p(β|y)+const=−12σ2[(β−μp)TΛp(β−μp)−μpΛpμp]

β


μpTΛpμp
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.