信頼区間を構築する基本的なロジック

対象のパラメーターとその点推定量を持つモデルを考えます。簡単にするために、と仮定 します（多くの場合、これは漸近的に正当化できます）。可能な限り最短レベルの信頼区間である区間を作成する方法は2つあります。$\theta$$\hat\theta$$\hat\theta\sim N(\theta,\sigma^2/n)$$(1-\alpha)$

1. 任意の真値に対して、Iは最短間隔たい有する捕捉の確率。、与えられた分布で最も密度の高い領域を選択し、その領域の累積確率がます。領域内のすべての点推定に対して、対応する間隔推定がをカバーするように、間隔推定器を定義します。 分布はどの真の値でも同じであるため$\theta$$(\hat\theta_{lower},\hat\theta_{upper})$$(1-\alpha)$$\theta$$\hat\theta$$\theta$$f(\hat\theta;\theta)$$(1-\alpha)$$\hat\theta$$\theta$
   $\hat\theta$$\theta$は場所のシフトを除いて、間隔を構築するメカニズム（規則）は実際のとは無関係です。したがって、それは真のを確率でカバーします。$\theta$$\theta$$(1-\alpha)$

2. ポイントの推定を考慮して、どの真の値の下でが生成される可能性が高いかを検討しています。与えられた真の、のの分布を知っているので、最高の密度値を生成するを選択します。選択範囲を含めるだけに制限します$\hat\theta$$\theta$$\hat\theta$$\theta$$f(\hat\theta;\theta)$$\theta$値累積確率を持つ値に対して少なくとも極端な限り。つまり、$\theta$$\geq\alpha$$\theta$値れる対応する関連付けられ-value少なくともある。$\theta$$p$$\hat\theta$$\alpha$

最初のアプローチは、その何でも本当の確保に直接焦点を当て、それが中に含まれているのインスタンスをサンプリングのシェア。最良の候補者のための第二のアプローチのルックス実現させるのおそらく、廃棄ながらの下そうです。2つの間の線（可能性とそうでない可能性）は、元の目標の観点からいくらか恣意的に描かれていますが、それはたまたま正しい線です。$\theta$$(1-\alpha)$$\theta$$\hat\theta$$\theta$$\hat\theta$

間隔を構成するための2つのルールは、この簡略化された例では同じ答えを与えます。信頼区間の構築の正しい動機、または正しい考え方について、（2つのうちのいずれかである場合）は
どれですか？
（おそらく、上記のの分布の仮定を削除すると、アプローチの1つが無効になり、一般に不適切であり、この例では偶然にしか正しい答えが得られないことがわかりますか？）$\hat\theta$

100のベルヌーイ試行の例

信頼区間の構築は、次のように対プロットに配置できます。$\theta$$\hat{\theta}$

帰無仮説ではなく、サンプリングを介して生成された信頼区間で帰無仮説を棄却できますか？

その質問に対する私の回答では、次のグラフを使用します。

この画像は古典的であり 、二項 CJクロッパーとESピアソンバイオメトリカVol。26、No。4（1934年12月）、404-413ページ

次の2つの方法で％信頼領域を定義できます。$\alpha$

• 垂直方向 では、データ、パラメーターが本当にであることを条件として、これらの境界内に入る確率はです。$L(\theta) < X < U(\theta)$$X$$\theta$$\alpha$

• 水平方向 では、信頼区間内に実験が真のパラメーターを持つ確率は％です。$L(X) < \theta < U(X)$$\alpha$

二方向の対応

したがって、重要な点は、間隔と間隔間に対応があることです。これが、2つの方法の出所です。$L(X),U(X)$$L(\theta),U(\theta)$

とをできるだけ近づけたい場合（"最短（）レベルの信頼区間"）は、領域全体の面積をできるだけ小さくしようとしています、これは、とを可能な限り近づけることに似ています。（多かれ少なかれ、可能な限り最短の間隔を取得するユニークな方法はありません。たとえば、あるタイプの観測の間隔を、別のタイプの観測犠牲にして短くすることができます）$L(X)$$U(X)$$1−\alpha$$L(\theta)$$U(\theta)$$\hat\theta$$\hat\theta$

実施例$\boldsymbol{\hat\theta \sim \mathcal{N}(\mu=\theta, \sigma^2=1+\theta^2/3)}$

最初の方法と2番目の方法の違いを説明するために、2つの方法が異なる場合があるように例を少し調整します。

ましょう一定ではないが、その代わりと何らかの関係有する$\sigma$$\mu= \theta$

その後の確率密度関数、上の条件 IS$\hat \theta$$\theta$

および関数としてプロットされたこの確率密度関数想像してください。$f(\hat \theta , \theta)$$\theta$$\hat \theta$

凡例：赤い線は信頼区間の上限であり、緑の線は信頼区間の下限です。（約68.3％）の信頼区間が描画されます。黒い太線は、と。$\pm 1 \sigma$$(\theta,\hat\theta)=(-3,-1)$$(\theta,\hat\theta)=(0,-1)$

PDF（一定の左から右への方向で）私たちは観察用のPDFを持っている与え。これらの2つが投影されています（平面）。値の境界（最も高い密度の領域になるように選択された）は、単一のpdfの同じ高さにありますが、異なるpdfの同じ高さではないことに注意してください（高さは値を意味します） of）$\theta$$\hat \theta$$\theta$$\theta = 7$$p$$p<1-\alpha$$f(\hat\theta,\theta)$

尤度関数上から下への方向（定数）では、観測値与えられた尤度関数があります。これらの1つが右側に投影されています。$\hat \theta$$\theta$$\hat\theta$

この特定のケースでは、定数に対して最も高い密度の68％質量を選択すると、定数に対して最も可能性の高い68％質量を選択した場合と同じ結果にはなりません。$\theta$$\hat \theta$

信頼区間の他のパーセンテージの場合、 1つまたは両方の境界があり、区間は2つのばらばらの断片で構成される場合もあります。そのため、尤度関数の密度が最も高い場所は明らかにありません（方法2）。これはどちらかと言えば人工的な例です（ただし、これらの多くの詳細がどのように表示されるかは簡単でいいです）が、より一般的なケースでは、2つの方法が一致しないことが簡単にわかります（信頼区間と信頼区間の例を参照してください）平坦な事前分布は、指数分布の速度パラメーターについて比較されます。$\pm \infty$

2つの方法は同じですか？

この水平と垂直の結果は、プロットの間隔を区切る境界とが同じ場合の結果です。 vsは、等値線です。境界が2つの方向のどちらよりも同じ高さにある場合は、改善を加えることができます。$U$$L$$\theta$$\hat \theta$$f(\hat \theta ; \theta)$

（これとは対照的：を有する例では信頼区間境界はますない同じ値であっても、異なる場合、確率質量がより広くなるため、密度が低くなり、大きくなります。これにより、とは、同じ値、少なくともいくつかの場合、これは、与えられた最も高い密度を選択しようとする方法2と矛盾します$\hat \theta \sim \mathcal{N}(\theta,1+\theta^2/3)$$f(\hat \theta, \theta)$$\theta$$\vert \theta \vert$$\theta_{low}$$\theta_{high}$$f(\hat \theta ; \theta)$$\hat \theta$$f(\hat \theta ; \theta)$$\hat \theta$。上の画像では、値の信頼区間の境界に関連する2つのpdf関数をプロットすることで、これを強調しようとしています。これらの境界では、pdfの値が異なることがわかります。） $\hat \theta= -1$

実際、2番目の方法は完全に正しくないようです（これは、信頼区間よりも尤度区間または信頼区間の一種です）、水平方向の％密度（境界％尤度関数の質量）その後、事前確率に依存する場合があります。$\alpha$$\alpha$

正規分布の例では、これは問題ではなく、2つの方法は一致しています。実例については、Christoph Hanckのこの回答も参照してください。境界は等値線です。を変更すると、関数はシフトのみを行い、「形状」は変更しません。$\theta$$f(\hat\theta,\theta)$

基準確率

境界が垂直方向に作成されるときの信頼区間は、事前確率とは無関係です。これは、2番目の方法には当てはまりません。

第1と第2の方法のこの違いは、基準確率と信頼区間の微妙な違いの良い例です。