ベイズの信頼できる区間手順の決定理論的正当化とは何ですか？

（これを書いた理由を見るには、この質問に対する私の答えの下にあるコメントをチェックしてください。）

タイプIIIエラーと統計的決定理論

間違った質問に正しい答えを与えることは、タイプIIIエラーと呼ばれることもあります。統計的決定理論は、不確実性の下での意思決定の形式化です。タイプIIIエラーの回避に役立つ概念的なフレームワークを提供します。フレームワークの重要な要素は損失関数と呼ばれます。これには2つの引数があります。1つ目は（関連するサブセットの）世界の真の状態です（たとえば、パラメーター推定問題では、真のパラメーター値$\theta$）。2番目は、可能なアクションのセットの要素です（たとえば、パラメーター推定問題では、推定$\hat{\theta})$。出力は、世界のあらゆる可能な真の状態に関するあらゆる可能なアクションに関連する損失をモデル化します。たとえば、パラメータ推定問題では、いくつかのよく知られている損失関数は次のとおりです。

• 絶対誤差損失$L(\theta, \hat{\theta}) = |\theta - \hat{\theta}|$
• 二乗誤差損失$L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$
• Hal VarianのLINEX損失$L(\theta, \hat{\theta}; k) = \exp(k(\theta - \hat{\theta})) - k(\theta - \hat{\theta}) - 1,\text{ } k \ne0$

答えを調べて質問を見つける

正しい損失関数の定式化に焦点を合わせ、決定論的アプローチの残りの部分を進めることで、タイプIIIのエラーを回避しようとする場合があります（ここでは詳しく説明しません）。簡単なことではありません。結局のところ、統計学者は、こうしたアプローチから派生していなくても、うまく機能する多くの手法と方法を十分に備えています。しかし、最終結果は、統計学者の大多数が統計的決定理論を知らず、気にしないということであり、見逃していると思います。それらの統計学者にとって、タイプIIIエラーを回避するという点で統計的決定理論が有益であると考える理由は、提案されたデータ分析手順を求めるフレームワークを提供するためだと主張します。プロシージャはどの損失関数（もしあれば）に最適に対処しますか？つまり、どのような意思決定状況において、正確に、それが最良の答えを提供しますか？

事後予想損失

ベイジアンの観点からは、損失関数だけが必要です。私たちはかなり決定理論の残りの部分をスキップすることができます-ほとんどの定義により、行うための最善のことは、損失を最小限事後期待している、あること、行動見つける$a$その最小化$\tilde{L}(a) = \int_{\Theta}L(\theta, a)p(\theta|D)d\theta$。

？具体的には、ワルドの- （非ベイズ視点まあ用として、それはfrequentist決定理論の定理である完全なクラス定理こと- 最適なアクションが常にすることになりますベイズ事後予想損失を最小限に抑えるに関していくつか）（おそらく不適切この結果の難しさは、それが存在する定理が使用する前にどのガイダンスについても与えないことであるが、それは私たちがどの質問であるかを正確に把握するために「反転」できる手順のクラスを実に制限する特に、非ベイジアン手順を逆変換する最初のステップは、どのベイジアン手順を複製または近似するか（ある場合）を把握することです。）

ねえ、シアン、これはQ＆Aサイトだよね？

最後に統計的な質問に私をもたらします。ベイジアン統計では、単変量パラメーターの間隔推定値を提供する場合、2つの一般的な信頼できる間隔手順は、分位に基づく信頼できる間隔と最高事後密度の信頼できる間隔です。これらの手順の背後にある損失関数は何ですか？

単変量間隔推定では、可能なアクションのセットは、間隔のエンドポイントを指定する順序付きペアのセットです。そのセットの要素が表されるとする。$(a, b),\text{ } a \le b$

最高の後方密度間隔

事後密度を。事後密度の最も高い間隔は、真の値を含まない間隔にペナルティを与える損失関数に対応し、その長さに比例して間隔にもペナルティを与えます。$f(\theta)$

$L_{HPD}(\theta, (a, b); k) = I(\theta \notin [a, b]) + k(b – a), \text{} 0 < k \le max_{\theta} f(\theta)$、

ここで、はインジケーター関数です。これにより、予想される事後損失が得られます$I(\cdot)$

$\tilde{L}_{HPD}((a, b); k) = 1 - \Pr(a \le \theta \le b|D) + k(b – a)$。

設定 Aの収率必要条件パラメーター空間の内部での局所最適： –予想通りのHPD間隔の正確なルール。$\frac{\partial}{\partial a}\tilde{L}_{HPD} = \frac{\partial}{\partial b}\tilde{L}_{HPD} = 0$$f(a) = f(b) = k$

の形式は、HPD間隔がパラメーターの単調増加変換に不変でない理由についての洞察を与えます。 -space HPD間隔に変換空間が異なる 2つの間隔が異なる損失関数に対応するので-space HPD間隔： -space HPD間隔に相当します形質転換された長さペナルティ。$\tilde{L}_{HPD}((a, b); k)$$g(\theta)$$\theta$$g(\theta)$$g(\theta)$$g(\theta)$$k(g(b) – g(a))$

分位ベースの信頼できる間隔

損失関数を使用したポイント推定の検討

$L_q(\theta, \hat{\theta};p) = p(\hat{\theta} - \theta)I(\theta < \hat{\theta}) + (1-p)(\theta - \hat{\theta})I(\theta \ge \hat{\theta}), \text{ } 0 \le p \le 1$。

事後予想損失は

$\tilde{L}_q(\hat{\theta};p)=p(\hat{\theta}-\text{E}(\theta|\theta < \hat{\theta}, D)) + (1 - p)(\text{E}(\theta | \theta \ge \hat{\theta}, D)-\hat{\theta})$。

設定収率暗黙式$\frac{d}{d\hat{\theta}}\tilde{L}_q=0$

$\Pr(\theta < \hat{\theta}|D) = p$、

つまり、最適なは、予想通り、事後分布の％分位数です。（100P$\hat{\theta}$$(100p)$

したがって、変位値ベースの間隔推定値を取得するには、損失関数は

$L_{qCI}(\theta, (a,b); p_L, p_U) = L_q(\theta, a;p_L) + L_q(\theta, b;p_U)$。

最小サイズの間隔

区間選択（ベイジアンとフリークエンシーの両方）の損失関数の明らかな選択の1つは、周辺分布の観点から測定される区間のサイズを使用することです。したがって、目的のプロパティまたは損失関数から始めて、最適な間隔を導き出します。これは可能ですが、現在の質問で例示されているように、行われない傾向があります。ベイジアンの信頼できるセットの場合、これは区間の事前確率を最小化するか、たとえばEvans（2016）で概説されているように相対的な信念を最大化することに対応します。サイズは、頻度主義者の信頼セットを選択するためにも使用できます（Schafer 2009）。2つのアプローチは関連しており、ポイント単位の相互情報を含む決定を優先的に含む決定ルールを介してかなり簡単に実装できます（Bartels 2017）。

Bartels、C.、2017。頻繁なテストでの事前知識の使用。figshare。 https://doi.org/10.6084/m9.figshare.4819597.v3

Evans、M.、2016。相対信念を使用した統計的証拠の測定。計算および構造バイオテクノロジージャーナル、14、pp.91-96。

Schafer、CMおよびStark、PB、2009。最適な予想サイズの信頼領域の構築。Journal of the American Statistical Association、104（487）、pp.1080-1089。