信頼区間と信頼区間が一致する場合の例

信頼できる間隔に関するウィキペディアの記事で、それは言う：

単一のパラメータと単一の十分な統計に要約できるデータの場合、未知のパラメータが位置パラメータである場合、信頼できる区間と信頼区間が一致することを示すことができます（つまり、前方確率関数はPr（x |μ）= f（x −μ））、事前分布は均一なフラット分布です; [5]また、未知のパラメーターがスケールパラメーターである場合（つまり、前方確率関数はPr（x | s）= f（x / s））、ジェフリーズの事前[5] —後者は、そのようなスケールパラメーターの対数を取ると、均一な分布を持つ位置パラメーターに変わるためです。しかし、これらは明らかに（特別ではありますが）特別なケースです。一般に、そのような同等性を作ることはできません。」

人々はこれの具体的な例を示すことができますか？95％CIが実際に「95％確率」に対応し、CIの一般的な定義に「違反」するのはいつですか？

confidence-interval credible-interval

— ウェイン
ソース

正規分布：

分散が既知の正規分布をとります。一般性を失うことなく、この分散を1にすることができます（各観測値を分散の平方根で除算することにより）。これにはサンプリング分布があります：

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} \sum_{i = 1}^{N} (X_{i} - μ)^{2}) = A \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

ここで、はデータのみに依存する定数です。これは、標本平均が母集団平均に対して十分な統計であることを示しています。均一事前分布を使用する場合、事後分布は次のようになります。 $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

したがって、信頼できる間隔は次の形式になります。 $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

ここで、と標準正規確率変数のように選択される満たします： $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

これで、信頼区間を構築するためのこの「重要な量」から始めることができます。固定されたに対するの標本分布は標準正規分布であるため、これを上記の確率に代入できます。 $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

次に、を解くように再配置します。信頼区間は、信頼できる区間と同じになります。 $\mu$

スケールパラメータ：

スケールパラメータの場合、pdfの形式はです。を取ることができます。これは対応します。共同サンプリング分布は次のとおりです。 $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | s) = s^{- N} 0 < X_{1} . . . X_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

そこから、（観測値の最大値）に等しい十分な統計を見つけます。ここで、そのサンプリング分布を見つけます。 $X_{max}$

P r (X_{m a x} < y | s) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | s) = {(\frac{y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

これで、を取ることで、これをパラメーターから独立させることができます。これは、「ピボタル量」がで与えられ、が分布であることを意味します。したがって、次のようなベータ変位値を使用してを選択できます。 $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

そして、極めて重要な量を代入します：

P r (L_{α} < s^{- 1} X_{m a x} < U_{α}) = 1 - α = P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

そして、信頼区間があります。以前にジェフリーズを使用したベイジアンソリューションの場合：

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

次に、信頼区間を接続し、その信頼性を計算します

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

そしてプレスト、我々は信頼性とカバレッジを持っています。 $1-\alpha$

— 確率論的
ソース

傑作、ありがとう！「正規分布からサンプルの平均を計算するとき、95％のCIは実際には95％の信頼できる間隔でもある」のような答えがあるかと期待していました。（この想定される答えを構成するだけで、具体的な例についての手がかりはありません。）

— Wayne

私は、頻出の95％予測/許容範囲間隔は、OLS回帰と通常のエラーを伴うベイズ予測間隔に対応すると考えています。とにかく、predict.lmの答えをシミュレートされた答えと比較すると、そのように見えます。本当？

— ウェイン

あなたが均一前を使用する場合は、とする先行ジェフリーズ、あなたは等価性を持っています。

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

— 確率論的

まことにありがとうございます！私が行った回帰のCIを信頼区間の観点から説明しようとしましたが、信頼できる区間を期待する素人の聴衆とはつながりません。CIについての素人の誤解を助長するので、おそらくそれは全体的な統計の世界にとって悪いことですが、私にとって人生をはるかに楽にします。

— ウェイン

@Wayne-ロケーションスケールファミリーよりも少し一般的な状況です。通常、CIが「十分な統計」（これら2つがそうであった）に基づいている場合、CIは信頼できる間隔に相当します。十分な統計がない場合、CIは「補助統計」と呼ばれるものを条件付けして、信頼できる間隔解釈を行う必要があります。

— 確率論的