頻度統計の暗黙の事前分布とは何ですか?


19

ジェインズは、頻繁な活動家が「暗黙の事前」で活動していると主張するという考えを聞いたことがあります。

これらの暗黙の優先順位は何ですか?これは、頻繁なモデルがすべて、ベイジアンモデルの発見を待っている特別なケースであることを意味しますか?


暗黙の事前分布は、ベイジアン頻度分析者がti推定を試行しているパラメーターである確率質量全体をθに置く縮退分布です。
ディリップサルワテ16年

3
私の知る限り、頻繁なモデルやベイジアンモデルはありません。モデルとそれらに対する異なるアプローチがあります。
アンドレイコリャーディン16年

3
@DilipSarwate:私はこの声明に同意しません。事前にディラックの塊を使用しても、頻繁な処置は行われません。また、ベイジアンパラダイムでは、未知のパラメーターを持つ事前分布を許可しません。ただし、それらのパラメーターに別の事前分布を設定する場合を除きます。
西安

2
何があっても常に事前がある。残念なことに、すべての統計的手順にはアドホックな開始点が必要であり、非常にarbitrary意的です。良いのは、目的地に近づくのに十分なデータと正しい方法論が与えられることです。悪いことは、目的地からどれだけ離れているかは、開始する場所と手元にあるデータの量に依存することです。
カグダスオズゲンク16年

2
@Cagdas Ozgenc:いいえ、前提条件は常にありますが、事前分布の形を取る必要はありません。
kjetil bハルヴォルセン16年

回答:


17

頻繁な決定理論では、許容される手順をベイズ手順またはベイズ手順の制限として特徴付ける完全なクラス結果が存在ます。例えば、スタインの必要十分条件(Stein。1955; Farrell、1968b)は、次の仮定の下で、

  1. サンプリング密度で連続しているθとに厳密に正Θ ; そしてf(x|θ)θΘ
  2. 損失関数場合は、厳密に凸状、連続しており、 E Θはコンパクトであり、LIM δ + INF θ E L θ δ = + LEΘ
    limδ+infθEL(θ,δ)=+.

推定量は、存在する場合にのみ許容されます。δ

  • シーケンスように増加コンパクトセット Θ = N F N(Fn)Θ=nFn
  • シーケンスをサポートする有限策のF 、N、および(πn)Fn
  • 配列に関連付けられたベイズ推定のπ Nよう(δn)πn

    1. コンパクトなセットが存在するようINF N π NE 01E0Θinfnπn(E0)1
    2. 場合コンパクトであり、SUP N π NE < + EΘsupnπn(E)<+
    3. limnr(πn,δ)r(πn)=0
    4. limnR(θ,δn)=R(θ,δ)

[私の本、Bayesian Choice、定理8.3.0、p.407 から転載]

この制限された意味では、許容性の頻度特性にはベイジアン背景が与えられており、したがって、暗黙の事前(またはそのシーケンス)を各許容推定量に関連付けています。

サイドノート:悲しいことに偶然、チャールズ・スタインはカリフォルニア州パロアルトで11月25日に亡くなりました。彼は96歳でした。

不変量または等変量の推定に対して同様の(数学的に関与する場合)結果があります。つまり、最適な等変推定量は、Θに誘導される右Haarメジャーに関連する統計モデルに作用するすべての推移的グループのベイズ推定量ですこのグループと対応する不変損失によって。関連する詳細については、Pitman(1939)、Stein(1964)、またはZidek(1969)を参照してください。これは、最も可能性の高いものですジェインズは、彼がの解像度については、強制的に主張したとして、念頭に置いていた不変の原則によって疎外のパラドックスπΘ

さらに、シビルスタットの回答で詳しく説明されているように、最適化の別の頻繁な概念、すなわちミニマキシティーもベイジアン手順に接続されており、最大エラーを最小化するミニマックス手順は(パラメーター空間で)最小エラーを最大化する最大手順(したがって、これはベイズまたはベイズ手順の制限です。

Q .:ベイジアン直観を頻度主義モデルに転送するために使用できる簡潔なテイクアウトはありますか?

xXf(x|θ)θ9595


1
どうもありがとう。初心者として、ベイジアンの直感を頻繁に使用するモデルに転送するために使用できる簡潔なテイクアウトはありますか?つまり(このGLMはxに似ており、yが優先されるか、この投げ縄はベイジアンxyzに似ています)。
ベイズクエスト

1
また、他の質問もご覧ください:stats.stackexchange.com/questions/247850 / ...ベイジアン脆性の問題に対するいくつかの解決策を提案したことは知っていますが、解決策は堅牢ではないと感じていますまたは社会科学者のために使いやすい。
ベイズクエスト

1
- :最初のコメントについては、ここで私が話したことのいくつかの例であり、ニューラルネット&GPSの - stats.stackexchange.com/questions/71782/... - sumsar.net/blog/2015/04/... - [ノンパラメトリックベイズ(npB)視点により、森林を木々の後方からのサンプルとして解釈することができます](arxiv.org/pdf/1502.02312.pdf
Bayesquest

ランダムフォレストでの近似ベイズ推定に取り組み、そのツールから生じる変動性は元の事後とは無関係であることを発見しました。もちろん、これはベイジアン解釈を許可しないという意味ではありませんが、それでも...-
西安

12

@ Xi'anの答えはより完全です。しかし、あなたも簡潔な持ち帰りを求めたので、ここにあります。(私が言及する概念は、上記の許容設定とまったく同じではありません。)

θθ^

ππ

この意味で、あなたはきちんと言うことができます:(ミニマックスを使用する)フリークエンティストは、最も不利な事前を選択した(に基づいてポイント推定)ベイジアンのようなものです。

このような頻度主義者は保守的なベイジアンであり、主観的な事前確率や情報価値のない事前確率ではなく、(この特定の意味では)最悪の事前確率を選択します。

最後に、他の人が言ったように、この方法でフリークエンティストとベイジアンを比較するのは一苦労です。周波数主義者であること、必ずしも特定の推定量を使用することを意味するわけではありません。これは、推定器のサンプリングプロパティについて質問することを意味しますが、これらの質問はベイジアンの最優先事項ではありません。(だから、どんなベイズの良好なサンプリング特性のために期待している人、例えば「ベイズ校正、」ある Frequentist。)
あなたは、その推定量は常に持っている一人としてFrequentistを定義した場合でも、最適なサンプリング・プロパティを、そこに多くのそのようなプロパティがあり、あなたは常にではないことができます一度にすべてに会います。したがって、「すべてのフリークエンティストモデル」について一般的に話すことは困難です。


3
私は、頻度分析のための暗黙の事前確率は、一定の事前確率になると考えました。
マイケルR.チャーニック

4
場合によっては可能です。MLEは、一様な事前分布を使用したMAP推定と考えることができます。しかし、MLEだけが、フリークエンティストが使用するツールではありません。
シビルスタット

1α1α
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.