高校でのベイズモデルの比較

私は高校生に物理学を教えています。生徒たちに、実験のデータについて初歩的なベイズモデル比較を行ってもらいたいと思います。私は彼らがそうする方法を考え出しました（以下を参照）が、それが正しいかどうかはわかりません。私はそれについてのフィードバック（特に否定的なフィードバック！）、またはそれをより良くする方法についての提案をいただければ幸いです。

勾配 $a$ と切片パラメーターを持つ線形理論 $b$ を、定数の帰無仮説、つまり勾配 $a$ = 0 と比較します。どちらの場合も、ガウス対称ノイズを想定しています。

学生は、Excel、勾配と切片のための最尤推定値（使用して、導き出すことができ、および）、およびそのエラーがと。 $\hat{a}$ $\hat{b}$ $da$ $db$

斜面上の前のため、私は、広いガウス分布を考慮し、最大=尤推定（を中心）とその10倍の標準偏差。私の推論は、現実的には「正しい」ラインパラメータを少なくとも1マグニチュード内に見つけることを期待しており、実際にはより近いものを見つけるため、「正しい」スロープをMLEに置き換えても変更しません数が多すぎます。 $\hat{a}$
いずれかの特定の線形理論与えられた証拠の可能性のために、私は、標準偏差（と、標準の多変量ガウス分布を考慮しての二乗残差和に関連します）。 $\sigma_e$
したがって、一般的に線形理論の証拠の尤度、つまり上記の事前確率と尤度の積分は、MLEポイントでの事前尤度と尤度に勾配誤差を掛けたものと推定されます。 $da$
帰無仮説所与の証拠の可能性について（全標準偏差を用いて、他の多変量ガウス分布であると仮定される平均-Yとの差に基づいて、）。 $\sigma_T$
これは、私が確信が持てない部分です。ベイズ係数を上記の2つの尤度（上記の3と4）の比率であると推定します。これにより、次の式を考え出すことができます。

$B_{10}=\frac{da}{(10 |\hat{a}| \cdot \sqrt{2 \pi})}(\sigma_T/\sigma_e)^N\cdot \sqrt{e}$

これにより、ベイズ因子の合理的な推定が得られますか？どんなフィードバックでも大歓迎です。

— PhysicsTeacher
ソース

MathJaxを使用して数式を編集して、読みやすく、より合理化された外観にしました。間違って翻訳してしまった場合は、お気軽に編集してください

— カラキス侯爵

ありがとうございました！ただし、最後の2つの項（s比とeの平方根）は、分数の外側、または分子内にある必要があります。

— PhysicsTeacher

ああ！それはLaTexと同じです！数式を修正しました。再度、感謝します。

— PhysicsTeacher

まず、などの鋭い仮説の賢明な検定では、ベイズ係数がこの事前分布に批判的に依存するため、事前の慎重な分布が必要であると言います。多くのベイジアンは鋭い仮説をテストしませんが、私はテストします。 $a=0$ $a$

先に進む前に、あなたが何をしていると言っているのか本当にわからないので、あなたが探していないというアドバイスをするかもしれません。５月表記をフォローして頂ければ幸いです。

データを観測値とする：、ここで（より一般的なモデルに従って、勾配を含む） $n$ $y = ((x_1,y_1), \ldots, (x_n,y_n))$ （I独立変数を抑制してい表記の簡略化のためにコンディショニング引数のリストから。）尤度は次式で与えられ用前所与の

p (y_{i} | a, b, σ^{2}) = N (y_{i} | b + a x_{i}, σ^{2}) .

$p(y_i|a,b,\sigma^2) = \textsf{N}(y_i|b+a\,x_i,\sigma^2).$

x_{i}

$x_i$

p (y | a, b, σ^{2}) = \prod_{i = 1}^{n} p (y_{i} | a, b, σ^{2}) .

$p(y|a,b,\sigma^2) = \prod_{i=1}^n p(y_i|a,b,\sigma^2).$

(a, b, σ^{2})

$(a,b,\sigma^2)$ 、事後分布は

より一般的なモデルによるデータの尤度は

p (a, b, σ^{2} | y) = \frac{p (y | a, b, σ^{2}) p (a, b, σ^{2})}{p (y)},

$\begin{equation} p(a,b,\sigma^2|y) = \frac{p(y|a,b,\sigma^2)\,p(a,b,\sigma^2)}{p(y)}, \end{equation}$

ここで私は。そのノートための（限界）尤度であるとの条件の前です。aの事前がから独立して場合、です。それは本当だと思います。

\begin{aligned} p (y) & = ∭ p (y | a, b, σ^{2}) p (a, b, σ) d σ^{2} d b d a \\ = \int (\iint p (y | a, b, σ^{2}) p (b, σ^{2}) d σ^{2} d b) p (a | b, σ^{2}) d a \\ = \int p (y | a) p (a | b, σ^{2}) d a, \end{aligned}

$\begin{equation} \begin{split} p(y) &= \iiint p(y|a,b,\sigma^2)\,p(a,b,\sigma)\,d\sigma^2\,db\,da \\ &= \int\left(\iint p(y|a,b,\sigma^2)\,p(b,\sigma^2)\,d\sigma^2\,db\right) p(a|b,\sigma^2)\,da \\ &= \int p(y|a)\,p(a|b,\sigma^2)\,da , \end{split} \end{equation}$

p (a, b, σ^{2}) = p (a | b, σ^{2}) p (b, σ^{2})

$p(a,b,\sigma^2) = p(a|b,\sigma^2)\,p(b,\sigma^2)$

p (y | a)

$p(y|a)$

a

$a$

p (a | b, σ^{2})

$p(a|b,\sigma^2)$

a

$a$

a

$a$

(b, σ^{2})

$(b,\sigma^2)$

p (a | b, σ^{2}) = p (a)

$p(a|b,\sigma^2) = p(a)$

これらの式を使用して、の周辺事後を記述できます：次に、この式を並べ替えます：この式はすべての値に当てはまるため、特に場合に当てはまります：左側の分数の分子は、制限されたモデル（つまり、制限されによるデータの尤度であることに注意してください $a$

p (a | y) = \frac{p (y | a) p (a)}{p (y)} .

$\begin{equation} p(a|y) = \frac{p(y|a)\,p(a)}{p(y)}. \end{equation}$

\frac{p (y | a)}{p (y)} = \frac{p (a | y)}{p (a)} .

$\begin{equation} \frac{p(y|a)}{p(y)} = \frac{p(a|y)}{p(a)}. \end{equation}$

a

$a$

a = 0

$a = 0$

\frac{p (y | a = 0)}{p (y)} = \frac{p (a = 0 | y)}{p (a = 0)} .

$\begin{equation} \frac{p(y|a=0)}{p(y)} = \frac{p(a=0|y)}{p(a=0)}. \end{equation}$

a = 0

$a=0$ ）。そして、すでに述べたように、分母はより一般的なモデルによるデータの可能性です。したがって、左側は、より一般的なモデルに比べて制限付きモデルを支持するベイズ因子です。

$a=0$ $a=0$ $a$ $a$ $a =0$ $a=0$

私が概説したステップに従わない場合、この問題の影響を受けないだろうと想像するかもしれませんが、あなたは間違っているでしょう。私が提示したロジックは、適用する「アルゴリズム」に関係なく適用されます。

p (b, σ^{2}) \propto 1 / σ^{2} .

$p(b,\sigma^2) \propto 1/\sigma^2.$

(b, σ^{2})

$(b,\sigma^2)$

a

$a$

p (y | a)

$p(y|a)$

a

$a$

t

$t$

y

$y$

t

$t$

a

$a$

私が言ったことの中で役に立つものを見つけていただければ幸いです。

— mef
ソース

p (a) = \frac{1}{10 | \hat{a} | \sqrt{2 π}} e^{- \frac{(a - \hat{a})^{2}}{2 (10 | \hat{a} |^{2}}}

$p(a)=\frac{1}{10 |\hat{a}| \sqrt{2 \pi}} e^{-\frac{(a-\hat{a})^2}{2 (10 |\hat{a}|^2}}$

p (a | y) = \frac{1}{σ_{a} | \sqrt{2 π}} e^{- \frac{(a - \hat{a})^{2}}{2 σ_{a}^{2}}}

$p(a|y)=\frac{1}{\sigma_a| \sqrt{2 \pi}} e^{-\frac{(a-\hat{a})^2}{2 \sigma_a^2}}$

最尤推定によるデータが含まれているようですので、以前のことはわかりません。

— -mef

\hat{a}

$\hat{a}$

h a t a

$hat{a}$

事前についてのあなたの仮定の根拠がわかりません。それでも、最初のコメントの質問に対する答えは「はい」です。ベイズ係数（BF）は、以前の分散の選択に非常に敏感であることがわかります。たとえば、10から20に変更すると、BFが大幅に変更されると思います。そして、それが私が作ろうとしていたポイントです。

— MEF

\hat{a}

$\hat{a}$