「完全ベイジアン」対「ベイジアン」


20

私はベイジアン統計について学んでおり、私はしばしば記事を読みました

「ベイジアンアプローチを採用しています」

または類似のもの。私も気づきましたが、それほど頻繁ではありません。

完全にベイジアンのアプローチを採用しています」

(私の強調)。実用的または理論的な意味でこれらのアプローチの間に違いはありますか?FWIW、私はMCMCglmmそれが関連する場合にRでパッケージを使用しています。


6
「完全にベイジアン」には厳密な意味があるとは思いません。
ステファンローラン

4
@Stephane完全にベイジアンはベイジアンと同じですが、形容詞は完全に経験的なベイズではないことを強調するために使用されます。
マイケルR.チャーニック

1
@Michaelこれは理にかなっていますが、私はまだ意味が普遍的ではないと思います、そしてそれは質問に対するいくつかの異なる答えによって確認されるようです。一部の人々が「完全にベイジアン」と言って、情報価値のない事前の主観ではなく主観的な事前を使用していると言っても驚かないでしょう。別の考えられる状況は、人々が「ベイジアン頻度分布予測分布」を使用してから、純粋にベイジアンのアプローチに移行する場合です。
ステファンローラン

@Stephane私はあなたの判断を受け入れます。あなたは私よりもベイジアン統計で働いていると思うので、人々がこの用語をさまざまな方法で使用しているのを聞いたことがあるでしょう。少なくとも私の答えは賢明であり、部分的に正しいです。
マイケルR.チャーニック

はい@MichaelChernick、あなたの答えは真のベイズアプローチ対擬似ベイズアプローチの例があるが、他は、このような状況があります
ステファン・ローラン

回答:


19

「完全なベイジアンアプローチ」という用語は、文脈に応じて「部分的な」ベイジアンアプローチから「真の」ベイジアンアプローチに移行することを示す方法にすぎません。または、「疑似ベイジアン」アプローチと「厳密に」ベイジアンアプローチを区別する。

たとえば、ある著者は次のように書いています。「RVMに経験的ベイズアプローチを使用する他の大多数の著者とは異なり、経験的ベイズアプローチは「疑似ベイジアン」アプローチであるため、完全にベイジアンアプローチを採用します。他にも、ベイジアン頻度分布予測分布(分位数が頻度分布予測間隔の境界に一致する分布)などの疑似ベイジアン手法があります。

、このページベイズ推定のためのいくつかのRパッケージが提示されています。MCMCglmmは、他のパッケージとは異なり、ユーザーが事前配布を選択する必要があるため、「完全ベイジアンアプローチ」として提示されます。

「完全なベイジアン」の別の可能な意味は、ベイジアン決定理論フレームワークから導出されたベイジアン推論を実行することです。


これありがとう。ありがとう、MCMCglmm「完全ベイジアン」であるパッケージは、MCMCを使用して推定値を導出することとは関係がなく、事後分析を見つけることができる事前分布を指定する必要がある場合でも、完全にベイジアンのままです。私の質問が意味をなさない場合はごめんなさい-私はまだ初心者ですが、学ぼうとしています!
ジョーキング

1
MCMCは、ベイジアン統計の事後分布をシミュレートするのに役立つテクニックです。しかし、それはベイジアンアプローチ自体とは何の関係もありません。
ステファンローラン

13

この用語は、ベイジアンアプローチと経験的ベイズアプローチを区別するために使用されると思います。Full Bayesでは指定された事前分布を使用しますが、経験的Bayesではデータを使用して事前分布を推定できます。


ありがとうございました !私はあちこちで言及されている「経験的ベイズ」を見てきましたが、私が読んだことでそれは決して現れませんでした。「最大周辺尤度」とも呼ばれるウィキペディアのページを見て、「階層型ベイズモデルの完全なベイジアン処理への近似」を参照しました。うーん、正直なところ、私はそのページに何があるのか​​あまり理解していません:(
ジョーキング

@JoeKing経験的ベイズ法には、多くの興味深い重要な用途があります。アイデアは1960年代にハーバートロビンスに遡ります。1970年代、EfronとMorrisは、多変量正規平均のJames-Stein推定量および他の同様の収縮推定量が経験的ベイズであることを示しました。Brad Efronは、大規模推論に関する彼の新しい本で、経験的ベイズ法がsmall n large pと呼ばれる問題にどのように使用できるかを示しています。 )。これはマイクロアレイを思い付きます。
マイケルR.チャーニック

1
ありがとうございました。あなたが書いた内容のすべてを理解しているわけではないことを認めざるを得ませんが、この問題をさらに研究するための出発点としてそれを使用するつもりです。
ジョーキング

9

「ベイジアン」は実際には「近似ベイジアン」を意味します。

「完全ベイジアン」は「近似ベイジアン」も意味しますが、近似値はあまりありません。

編集:明確化。

pθデータpデータθpθ
θ

ありがとうございました。ここでMCMCglmm使用しているパッケージが完全にベイジアンであることを読みました。それは、MCMCをパラメーターの事前パラメーターと一緒に使用しているためですか?
ジョーキング

@アレック私は本当に確信していません。したがって、前に標準共役を使用すると、「完全に」ベイジアンになりますか?そして、なぜポイント推定値は事後シミュレーションよりも「正確ではない」と主張するのですか?
ステファンローラン

1
@StéphaneLaurent私は、ポイント推定が常にそれほど正確ではないと主張しません。私の答えに対する昨日のコメントはどこにありますか?
アレックパテレク

1
@ArekPaterekあなたの短い答えは冗談のように見えたので、あなたの修正された答えに当てはまらないコメントは修正された答えには当てはまりません。ですから、おそらくモデレーターがそれらを削除したのではないかと思います。それでも完全にベイジアン近似を呼び出すことは不可解です。
マイケルR.チャーニック

1
私の最初の削除されていないコメントは明確ではなかったかもしれません。Arekの答えが正しかった場合、正確な事後分布(単純な共役の前の状況など)を得ることができる場合、状況をどのように呼び出す必要がありますか?「完全に」ベイジアンのアプローチ?
ステファンローラン

8

私は「完全にベイジアン」を使用して、あらゆる迷惑パラメーターが最適化ではなく分析から除外されたことを意味します(MAP推定など)。例えば、限界尤度を最大化するように調整されたハイパーパラメーターをもつガウスプロセスモデルは、ベイズ的ですが、部分的にのみそうです。 。


4
これは少し一般的な答えのようです。最適化されるのではなく、周辺化される量が多いほど、ソリューションはより完全にベイジアンになります。経験的ベイズは特別なケースです。
共役前

はい、マイケルズの答えをほんの少し延長しただけです。基本的に、最適化は基本的に非ベイジアンです。
ディクランMarsupial

3

実際の例として:

スプラインを使用してベイジアンモデリングを行います。スプラインの一般的な問題は、ノットの選択です。一般的な可能性の1つは、リバーシブルジャンプマルコフ連鎖モンテカルロ(RJMCMC)スキームを使用することです。このスキームでは、各反復中にノットを追加、削除、または移動することを提案します。スプラインの係数は最小二乗推定値です。

フリーノットスプライン

私の意見では、これは「完全にベイジアン」アプローチのためにこれらの係数(および各反復中に提案された新しい係数)に優先順位を置く必要があるため、「部分的にベイジアン」になりますが、最小二乗推定はRJMCMCに対して機能しませんスキーム、および物事ははるかに困難になります。


(+1)私はあなたの状況を理解していませんが、それは擬似ベイジアンアプローチの状況のようです
ステファン・ローラン

1

これまで言及されていない特性を追加します。完全にベイジアンのアプローチは、ベイズの定理を通じてすべての未知の量の不確実性を「完全に」伝播します。一方、経験的ベイズなどの疑似ベイズ手法では、すべての不確実性が伝播するわけではありません。たとえば、事後予測量を推定する場合、完全なベイジアン手法では、未知のモデルパラメーターの事後密度を利用して、ターゲットパラメーターの予測分布を取得します。EBアプローチでは、すべての未知数の不確実性を考慮しません。たとえば、ハイパーパラメーターの一部を特定の値に設定すると、全体的な不確実性が過小評価されます。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.