ベイジアンモデル平均化（BMA）の利点を示す簡単な例

私はベイジアンモデルアベレージング（BMA）アプローチを研究に組み込んでおり、同僚に私の仕事についてのプレゼンテーションをすぐに行います。しかし、BMAは私の分野ではそれほど有名ではありません。そのため、すべての理論を提示し、実際に問題に適用する前に、BMAが機能する理由について、簡単でありながら有益な例を紹介します。

2つのモデルから選択できる簡単な例を考えていましたが、真のデータ生成モデル（DGM）はその中間にあり、証拠はそれらのいずれかを実際に支持していません。そのため、いずれかを選択して続行すると、モデルの不確実性を無視してエラーが発生しますが、BMAでは、真のモデルはモデルセットの一部ではありませんが、少なくとも対象のパラメーターの正しい事後密度が得られます。たとえば、毎日2つの天気予報（AとB）があり、1つは天気を最もよく予測したいので、古典的な統計では、最初に2つの天気予報を見つけようとしますが、真実がその中間にある場合はどうでしょうか。 （つまり、Aが正しいこともあれば、Bが正しいこともあります）。しかし、私はそれを形式化することができませんでした。そのようなものですが、私はアイデアに非常にオープンです。この質問が具体的であることを願っています！

文献では、これまでに読んだものから良い例を見つけていません。

• Kruschke（2011）はベイジアン統計の優れた入門書ですが、BMAにはあまり焦点を当てていません。彼が第4章で持っているコイントスの例は、ベイジアン統計の導入には最適ですが、他の研究者にBMAを使用するように説得しません。（「なぜ私は3つのモデルを持っているのですか、1つはコインが公正で、2つはどちらかの方向に偏っているということですか？」）
• 私が読んだ他のすべてのもの（Koop 2003、Koop / Poirier / Tobias（2007）、Hoeting et al。（1999）、その他多数）は素晴らしい参考文献ですが、簡単なおもちゃの例は見つかりませんでした。

しかし、多分私はここで良い情報源を逃しただけです。

それで、誰かがBMAを導入するために使用する良い例がありますか？多分それは非常に有益だと思うので、可能性と事後者を示すことによってさえ多分。

$X$$y$

これに使用したRコードを以下に示します。それがあなたに刺激を与えることを願っています！

# The sample size
n <- 100

# The 'true' coefficient vector
Beta <- cbind(c(-1.5, 0.45, -3))

# Generate the explanatory variables which have an effect on the outcome
set.seed(1)
X <- cbind(rnorm(n, 0, 1), rnorm(n, 4, 2), rnorm(n, 0.5, 1))

# Convert this into probabilities
prob <- 1/(1+exp(-X %*% Beta))

# Generate some uniform numbers. If the elements are smaller than the corresponding elements in the prob vector, then return 1.
set.seed(2)
runis <- runif(n, 0, 1)
y <- ifelse(runis < prob, 1, 0)

# Add the nonsense variables
X <- cbind(X, rpois(n, 3))        # Redundant variable 1 (x4)
X <- cbind(X, rexp(n, 10))        # Redundant variable 2 (x5)
X <- cbind(X, rbeta(n, 3, 10))    # Redundant variable 3 (x6)
X <- cbind(X, rbinom(n, 10, 0.5)) # Redundant variable 4 (x7)
X <- cbind(X, rpois(n, 40))       # Redundant variable 5 (x8)
X <- cbind(X, rgamma(n, 10, 20))  # Redundant variable 6 (x9)
X <- cbind(X, runif(n, 0, 1))     # Redundant variable 7 (x10)


# The BMA
library(BMA)
model <- bic.glm(X, y,  glm.family="binomial", factor.type=FALSE, thresProbne0 = 5, strict = FALSE)

# The frequentist model
model2 <- glm(y~X, family = "binomial")

old.par <- par()
par(mar=c(3,2,3,1.5))
plot(model, mfrow=c(2,5))
par(old.par)

summary(model)
summary(model2)

このための優れたリソースは次のとおりです：
Stefan Zeugner（2012）によるBMSによるベイジアンモデル平均

RパッケージBMSを使用しています。詳細については、http：//bms.zeugner.eu/を参照してください。

パッケージを使用して実際の例を再現するための2つの実践的なチュートリアルは、次の場所にあります。

• http://bms.zeugner.eu/tutorials/fls/
• http://bms.zeugner.eu/tutorials/fat/

ベイジアン法のより一般的な動機付けと現在の紹介は、次の論文です：

時が来た：ジョンK.クルシュケ、ハーマンアギニス、ハリージュによる組織科学におけるデータ分析のためのベイズ法