タグ付けされた質問 「maximum-entropy」

最大エントロピーまたは最大値は、情報理論から導き出された統計的原理です。(いくつかの制約の下で)エントロピーを最大化する分布は、制約が与えられた場合、「最大の情報を提供しない」と考えられています。最大エントロピーは、事前の選択、サンプリングモデルの選択、実験の設計など、複数の目的に使用できます。

1
ベイジアン対最大エントロピー
推論したい量が確率分布であると仮定します。私たちが知っているのは、分布が、たとえばその瞬間のいくつかによって決定された集合からのものであり、以前のです。EEEQQQ 最大エントロピー原理(MEP)は、からの相対的エントロピーが最も少ない(つまり、)は選択するのに最適です。一方、ベイズの選択規則には、ベイズの定理によってサポートされている事前分布を考慮して事後を選択するプロセスがあります。P⋆∈EP⋆∈EP^{\star}\in EQQQP⋆=argminP∈ED(P∥Q)P⋆=argminP∈ED(P‖Q)P^{\star}=\displaystyle \text{argmin}_{P\in E}D(P\|Q) 私の質問は、これら2つの推論方法の間に関係があるかどうか(つまり、2つの方法が同じ問題に適用され、共通点があるかどうか)です。または、ベイジアン推論での設定が上記の設定と完全に異なるかどうか。それとも意味がありませんか?!

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.