「情報価値のない事前」とは何ですか？本当に情報のないものはありますか？

この質問からのコメントに触発されました：

事前情報で「情報価値のない」と考えるものと、情報価値のない事前情報に含まれている情報は何ですか？

私は通常、ベイジアン分析からいくつかの素晴らしい部分を借りようとする頻繁なタイプの分析である分析で事前を参照します（「それが最もホットなこと」に至るまでのいくつかの簡単な解釈である）、指定された事前分布は均一0を中心とした効果測定の境界を横切って分布しかしアサートする前に形状を-ただ平坦であることを起こります。

使用する前に、より有益な情報がありますか？

[警告：ISBAの客観ベイズセクションのカード保有メンバーとして、私の見解はすべてのベイジアン統計学者を代表するものではありません！、まったく逆です...]

要約すると、「情報がまったくない」事前のようなものはありません。

確かに、「情報価値のない」事前は、悲しいことに誤名です。事前配布には、ある程度の情報に類似した仕様が含まれています。均一（または特に）均一な事前。実際、均一な事前分布は、問題の特定のパラメーター化に対して1つだけフラットです。あるパラメータ化（境界のあるパラメータ化も含む）に変更すると、変数のヤコビアンの変化が画像と密度に反映され、事前分布はフラットではなくなります。

エルビスが指摘したように、最大エントロピーは、いわゆる「情報価値のない」事前選択を提唱するアプローチの1つです。しかしそれは（a）の十分な必要との情報いくつかの瞬間の上の事前分布のπ （⋅を）制約を指定する∫ Θの H （θ $h(\theta)$$\pi(\cdot)$ MAXENT前につながる 、π *（θ ）α EXP { λ T H （θ ）} と基準測定の（b）の予備選択 D μ （θ ） [連続的な設定で]を、議論を初期段階に戻す選択肢です！（さらに、制約のパラメーター化（つまりの選択）は、結果のMaxEnt事前分布の形状に影響します。）

$$\int_{\Theta} h(\theta)\,\text{d}\pi(\theta) = \mathfrak{h}_0$$ $$\pi^*(\theta)\propto \exp\{ \lambda^\text{T}h(\theta) \}$$ $\text{d}\mu(\theta)$$h$

ホセ・ベルナルドは、事前と事後の間のカルバック距離を最大化することによりデータによってもたらされる情報を最大化するために事前確率を選択する参照事前確率の独自の理論を作成しました。迷惑パラメータのない最も単純なケースでは、解決策はジェフリーズの事前です。より複雑な問題では、（a）関心のあるパラメータの選択（または、関心のある順序のランク付け）を行う必要があります。（b）事前確率の計算はかなり複雑であり、不適切な問題を回避するために一連の組み込みコンパクトセットが必要です。（詳細については、例えば、ベイジアン選択を参照してください。）

興味深いひねりを加えて、ベイジアンの視点の外の研究者は、明示的な事前構造またはこのパラメーター空間の支配的な尺度なしに、周波数ベースの手順からの反転によって構築された、パラメーター空間上の確率分布である信頼分布と呼ばれる手順を開発しています。彼らは、明確に定義された事前分布が存在しないことはプラスであると主張しているが、結果は間違いなく初期化頻度ベースの手順の選択に依存

要するに、「the」「informative」事前の「最良」（または「より良い」）選択はありません。そして、ベイジアン分析の本質は、事前分布の選択が重要であることを示唆しているため、これは物事がどうあるべきかと考えます。そして、事前の比較はありません：1つは別よりも「良い」ことはできません。（少なくともデータを観察する前：一度観察すると、事前の比較がモデルの選択になります。）ホセ・ベルナルド、ジム・バーガー、ドンチュ・サン、および他の多くの「客観的」ベイジアンの結論は、ほぼ同等の参照事前があることです。自分の以前の情報が不明な場合やベンチマークベイジアン推論を求めている場合に使用します。これらの事前情報の一部は情報理論の議論によって部分的にサポートされています。

公式の非情報的事前分布の魅力的な特性は、「頻度の一致する特性」です。これは、事後の95％信頼区間が（少なくとも、およそ）頻度95％の信頼区間であることを意味します。この情報は、ベルナルドの事前参照を保持しますが、これらの非情報事前の基金は、頻度の高いマッチングプロパティの達成に向けられていません。均一分布またはガウスなどの「単純」（「フラット」）非情報事前を使用する場合分散が非常に大きい場合、頻繁に一致するプロパティが保持されるという保証はありません。たぶん、ベルナルドの参照事前は、情報価値のない事前の「最良の」選択と見なすことはできませんが、最も成功したものと見なすことができます。

ジェフリーズ分布も不整合に苦しむ：ジェフリーズの上変数の事前確率上又は（0 、∞ ）ジェフリーズ確率パラメータの前の場合とされない、不適切であるP：メジャーDのP / $(-\infty,\infty)$$(0,\infty)$$p$の質量有するπにわたって（0、1）。$\text{d}p/\sqrt{p(1-p)}$$\pi$$(0,1)$

Renyiは、情報価値のない分布を不適切な積分に関連付ける必要があることを示しました。代わりに、この困難を回避し、変数の変化の下で不変であるロステの分布を参照してください（たとえば、場合、メジャーはd p / p （1 − p ））。$p$$\text{d}p/p(1-p)$

---

まず、翻訳は良いです！

E. LHOSTEの場合：「確率論の計算」、1921年5月、91号書

A. RENYIの場合：「確率の新しい公理理論について」Acta Mathematica、Academie des Sciences hongroises、tome VI、fasc.3-4、1955

私は追加することができます。

私は、西安の優れた答えに同意し、情報を運んでいないという意味で「情報価値のない」事前分布は一つもないことを指摘しています。このトピックを拡張するために、不正確な確率フレームワーク内でベイジアン分析を行うことが1つの選択肢であることを指摘したかった（特にWalley 1991、Walley 2000を参照）。このフレームワーク内では、事前の信念は一連の確率分布によって表されます$n \rightarrow \infty$

この分析フレームワークは、ウォルリー独自の特別な形式の確率的分析として公理化されていますが、事前セットを使用したロバストなベイジアン分析と本質的に同等であり、対応する事後セットを生成します。多くのモデルでは、値の可能な範囲全体でいくつかのモーメント（たとえば、前の平均）が変化することを可能にする「情報価値のない」事前セットを設定できます。より緊密に。この形式の分析は、少なくとも許容範囲全体で変化する可能性のあるモーメントに関しては、「情報価値がない」と呼ばれるというより良い主張を持っています。

---

$X_1,...,X_n | \theta \sim \text{IID Bern}(\theta)$$\theta$$\mu$$\kappa > 1$

$$\begin{equation} \begin{aligned} \pi_0(\theta | \mu, \kappa) = \text{Beta}(\theta | \mu, \kappa) = \text{Beta} \Big( \theta \Big| \alpha = \mu (\kappa - 1), \beta = (1-\mu) (\kappa - 1) \Big). \end{aligned} \end{equation}$$

$\mathbb{E}(\theta) = \mu$$\mathbb{V}(\theta) = \mu(1-\mu) / \kappa$

$$\mathscr{P}_0 \equiv \Big\{ \text{Beta}(\mu, \kappa) \Big| 0 \leqslant \mu \leqslant 1 \Big\}. \quad \quad \quad \quad \quad$$

$s = \sum_{i=1}^n x_i$

$$\mathscr{P}_\mathbf{x} = \Big\{ \text{Beta}\Big( \tfrac{s + \mu(\kappa-1)}{n + \kappa -1}, n+\kappa \Big) \Big| 0 \leqslant \mu \leqslant 1 \Big\}.$$

事後予測の可能な値の範囲は次のとおりです。

$$\frac{s}{n + \kappa-1} \leqslant \mathbb{E}(\theta | \mathbb{x}) \leqslant \frac{s + \kappa-1}{n + \kappa-1}.$$

$n \rightarrow \infty$$\theta$