逆ガンマ分布は

事後推定値と仮定する前に正常尤度と逆ガンマの：です $\sigma'^{2}$ $\sigma^2$

σ^{』 2} 〜 IG （ α + \frac{ん}{2} 、 β + \frac{Σ_{私 = 1}^{ん} （ y_{私} - μ ）^{2}}{2} ）

$\sigma'^{2}\sim\textrm{IG}\left(\alpha + \frac{n}{2}, \beta +\frac{\sum_{i=1}^n{(y_i-\mu)^2}}{2}\right)$

これは

σ^{』 2} 〜 IG （ \frac{ん}{2} 、 \frac{ん σ^{2}}{2} ）

$\sigma'^{2}\sim\textrm{IG}\left( \frac{n}{2}, \frac{n\sigma^2}{2}\right)$

弱いのでに先立っ削除しおよび EQN 1： $\textrm{IG}(\alpha, \beta)$ $\sigma^2$ $\alpha$ $\beta$

σ^{』 2} 〜 IG （ \frac{ん}{2} 、 \frac{Σ_{私 = 1}^{ん} （ y_{私} - μ ）^{2}}{2} ）

$\sigma'^{2}\sim\textrm{IG}\left( \frac{n}{2}, \frac{\sum_{i=1}^n{(y_i-\mu)^2}}{2}\right)$

それの後方推定することは明らかであるサンプルサイズと尤度の二乗和の関数です。しかし、これはどういう意味ですか？ウィキペディアには、私があまり従わない派生物があります。 $\sigma^2$

次の質問があります

ベイズの法則を呼び出さずにこの2番目の方程式に到達できますか？通常の尤度とは無関係に平均と分散に関連するIGのパラメーターに固有の何かがあるかどうか私は興味があります。
私は通知前に推定するために、以前の研究から、サンプルサイズと標準偏差を使用することはでき、その後、新しいデータで前の更新しますか？これは簡単なように見えますが、そうした例や、これが正当なアプローチである理由を説明することはできません。 $\sigma^2$
詳細な説明について相談できる人気の確率または統計のテキストはありますか？

bayesian prior conjugate-prior

— 阿部
ソース

逆ガンマ尤度と逆ガンマ事前を意味しませんか？

— Neil G

まず、私はあなたの質問にいくつかの誤解を見つけます：ベイズの定理から、事後推定ではなく事後分布が得られます。2番目のポイントは、この事後分布が「尤度の二乗の合計」に依存しないことです。それは単にサンプルのサイズ（つまり、n）とサンプル値に依存します。これは完全に自然で合理的です。これらの依存関係は、平均、分散などの事後推定に影響します。たとえば、事後平均の分散パラメーターは

等しくなります。

\frac{1}{n - 2} \sum {(y_{i} - μ)}^{2}

$\frac{1}{n-2}\sum \left ( y_{i}-\mu \right )^{2}$

— トーマス

推定による@thomas、私は事後分布の推定を意味しました。事後の二乗和項は、通常の尤度のss項とまったく同じ計算ではありませんか？

— 阿部

@阿部最近、あなたの質問nrに関連する質問をしました（そして回答しました）。2.これは、SD前正規分布の精度に対応するガンマを計算する方法SDのSDが与えられる：質問はこちら：stats.stackexchange.com/questions/41187/...

— ラスムスバース

回答:

事後推定ではなく、パラメーター事後分布について話す方が正しいと思います。表記を明確にするために、以下の素数はします。 $\sigma'^{2}$ $\sigma'^{2}$

仮定で配布され、 -私はドロップヒューリスティックの例を作るために今のところ-ととして配布さとは無関係である。 $X$ $\mathcal{N}(0, \sigma^2)$ $\mu$ $1/\sigma^2 = \sigma^{-2}$ $\Gamma(\alpha, \beta)$ $X$

PDF 与えられたガウスであり、すなわち $X$ $\sigma^{-2}$

f (x | σ^{- 2}) = \frac{1}{\sqrt{2 π σ^{2}}} \exp (- \frac{x^{2}}{2 σ^{2}}) .

$f(x|\sigma^{-2}) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp\left(-\frac{x^2}{2\sigma^2}\right).$

関節PDF 、乗じたにより、 -のPDF 。これは $(X, \sigma^{-2})$ $f(x,\sigma^{-2})$ $f(x|\sigma^{-2})$ $g(\sigma^{-2})$ $\sigma^{-2}$

f (x, σ^{- 2}) = \frac{1}{\sqrt{2 π σ^{2}}} \exp (- \frac{x^{2}}{2 σ^{2}}) \frac{β^{α}}{Γ (α)} \exp (- \frac{β}{σ^{2}}) \frac{1}{σ^{2 (α - 1)}} .

$f(x, \sigma^{-2}) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp\left(-\frac{x^2}{2\sigma^2}\right) \frac{\beta^{\alpha}}{\Gamma(\alpha)}\exp \left(-\frac{\beta}{ \sigma^2}\right)\frac{1}{\sigma^{2(\alpha-1)}}.$

同様の用語をグループ化し、これを次のように書き換えることができます

f (x, σ^{- 2}) \propto σ^{- 2 (α - 1 / 2)} \exp (- σ^{- 2} (β + x^{2} / 2)) .

$f(x, \sigma^{-2}) \propto \sigma^{-2(\alpha-1/2)} \exp\left(-\sigma^{-2} \left(\beta + x^2/2 \right)\right).$

事後分布定義によってのPDFである所与、あるベイズの公式によって。あなたの質問1.に答えるために私が表現する方法があると思いませんから $\sigma^{-2}$ $\sigma^{-2}$ $x$ $f(x, \sigma^{-2}) / f(x)$ $f(\sigma^{-2}|x)$ $f(x, \sigma^{-2})$ ベイズの公式を使用せずに。計算では、我々は次のようになりますことを何か上記の式で認識ように統合する機能、得るためにアウト非常に簡単です。 $\Gamma$ $\sigma^{-2}$ $f(x)$

f (x) \propto (β + x^{2} / 2)^{- (α + 1 / 2)},

$f(x) \propto (\beta + x^2/2)^{-(\alpha+1/2)},$

だから分割することで

f (σ^{- 2} | x) \propto (β + x^{2} / 2) {(σ^{- 2} (β + x^{2} / 2))}^{α - 1 / 2} \exp (- σ^{- 2} (β + x^{2} / 2)) \propto {(σ^{- 2} (β + x^{2} / 2))}^{α - 1 / 2} \exp (- σ^{- 2} (β + x^{2} / 2)) .

$f(\sigma^{-2}|x) \propto \left(\beta + x^2/2 \right) \left( \sigma^{-2} \left(\beta + x^2/2 \right) \right)^{\alpha-1/2} \exp\left(-\sigma^{-2} \left(\beta + x^2/2 \right)\right) \\ \propto \left( \sigma^{-2} \left(\beta + x^2/2 \right) \right)^{\alpha-1/2} \exp\left(-\sigma^{-2} \left(\beta + x^2/2 \right)\right).$

そして、ここで最後の式で、我々は認識パラメータを持つ分布。 $\Gamma$ $(\alpha + 1/2, \beta + x^2/2)$

あなたはIIDのサンプルがある場合は、すべてのアウト統合することで、、あなたが得るでしょう、次いで及び $((x_1, \sigma_1^{-2}), ..., (x_n, \sigma^{-2}_n))$ $\sigma_i^{-2}$ $f(x_1, ..., x_n)$ 次の項の積として： $f(\sigma_1^{-2}, ..., \sigma_n^{-2}|x_1, ..., x_n)$

f (σ_{1}^{- 2}, . . ., σ_{n}^{- 2} | x_{1}, . . ., x_{n}) \propto \prod_{i = 1}^{n} {(σ_{i}^{- 2} (β + x_{i}^{2} / 2))}^{α - 1 / 2} \exp (- σ_{i}^{- 2} (β + x_{i}^{2} / 2)),

$f(\sigma_1^{-2}, ..., \sigma_n^{-2}|x_1, ..., x_n) \propto \prod_{i=1}^n \left( \sigma_i^{-2} \left(\beta + x_i^2/2 \right) \right)^{\alpha-1/2} \exp\left(-\sigma_i^{-2} \left(\beta + x_i^2/2 \right)\right),$

変数の積です。そして、我々はためた多数のここで立ち往生している。さらに、これらの独立した変数の平均の分布は、計算するのが簡単ではありません。 $\Gamma$ $\sigma_i^{-2}$ $\Gamma$

しかし、我々はすべての観測がいることを前提とした場合同じ値を共有（あなたのケースのように思われる）すなわちの値ということから一度だけ引かれたと、すべてのこと、その後のその値で描画された、我々は得ます $x_i$ $\sigma^{-2}$ $\sigma^{-2}$ $\Gamma(\alpha, \beta)$ $x_i$ $\sigma^{-2}$

f （ {バツ}_{1} 、 。 。 。 、 {バツ}_{ん} 、 σ^{- 2} ） α σ^{- 2 （ α + ん / 2 ）} \exp （ - σ^{- 2} （ β + \frac{1}{2} Σ_{私 = 1}^{ん} {バツ}_{私}^{2} ） ） 、

$f(x_1, ..., x_n, \sigma^{-2}) \propto \sigma^{-2 (\alpha + n/2)} \exp\left(-\sigma^{-2} \left(\beta + \frac{1}{2} \sum_{i=1}^n x_i^2\right) \right),$

そこから私たちはの事後分布導出ベイズの公式を適用することによって、あなたの数式1のようにします。 $\sigma^{-2}$

の事後分布は、と、以前のパラメーター、サンプルサイズおよび観測された二乗の合計に依存するです。以前の平均である及び分散であるそうであれば、と値が非常に小さく、前は約非常に少ない情報担持 $\sigma^{-2}$ $\Gamma$ $\alpha$ $\beta$ $n$ $\sigma^{-2}$ $\alpha/\beta$ $\alpha/\beta^2$ $\alpha = \beta$ $\sigma^{-2}$ 分散が大きくなるからです。値が小さい場合は、上記の方程式からそれらを削除すると、方程式3になります。

$\Gamma$ $S^2$ $\sigma^2$

質問2.については、もちろん、以前の実験で得られた値を事前値として使用できます。上記ではベイジアンと頻度主義の解釈の類似点を確立したので、詳しく説明すると、小さなサンプルサイズから分散を計算し、さらに多くのデータポイントを収集するようなものです。捨てるのではなく、分散の推定値を更新します。最初のデータポイント。

あなたの質問について3.私は、Hogg、McKean、Craigによる「Introduction to Mathematical Statistics」が好きです。これは、通常、これらの方程式を導き出す方法の詳細を提供します。

— gui11aume
ソース

質問1については、2番目の方程式はベイズの法則から導き出されたものであり、それを回避する方法はわかりません。

質問2では、はい、これを行うことができます。2番目の方程式と同じ形式の事前分布を使用してください。

質問3では、指数関数的な家族について何かを探します。多分誰かが良いリソースをお勧めします。

— ニールG
ソース