指数ファミリーにすべての分布が含まれないのはなぜですか？

私は本を読んでいます：

ビショップ、パターン認識、機械学習（2006）

次の形式の分布として指数族を定義します（式2.194）：

p (x | η) = h (x) g (η) \exp {η^{T} u (x)}

$p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\}$

しかし、 $h(\mathbf x)$ または制限はありません $\mathbf u(\mathbf x)$ 。これは、と適切に選択することにより、この形式に任意の分布を配置できることを意味しないのですか（実際、どちらか1つだけを適切に選択する必要があります！）？では、指数関数族にすべての確率分布が含まれていないのはなぜですか？私は何が欠けていますか？ $h(\mathbf x)$ $\mathbf u(\mathbf x)$

最後に、私が興味を持っているより特定の質問はこれです：ベルヌーイ分布は指数関数族ですか？ウィキペディアはそうだと主張していますが、ここで何かについて明らかに混乱しているので、その理由を知りたいと思います。

mathematical-statistics exponential-family

— ベッコ
ソース

ベルヌーイ分布は指数分布族であることを証明するために、事実を使用してみてくださいその

f (x; μ) = \exp (\log (f (x; μ)))

$f(x; \mu) = \exp (\log( f(x; \mu)))$ と、それはあなたを取得する場所を参照

— JLD

明確にするために、このフォームでディストリビューションを作成できるかどうか、またはこのフォームでディストリビューションのファミリを作成できるかどうかを尋ねていますか？後者の質問に対する答えを得たようです。

— オーウェン

@Owenはい、これが重要なポイントであることがわかりました。（

h (x)

$h(\mathbf x)$ 適切に設定し、

設定することで）この形式で任意の分布を記述できますが、それはこの形式

g = 1, u = 0

$g=1,\mathbf u= 0$ で任意のファミリを記述できることを意味しません。

— becko

@becko、まさにその通りです。テキスト内の「指数関数族」という言い回しは、誤解を招く可能性があります。指数関数族は1つだけではないためです。むしろ、を選択するたびに家族が生まれます。多くの著者が代わりに「指数関数的な家族」と言い、これをより明確にします。たとえば、ウィキペディアのページをご覧ください：en.wikipedia.org/wiki/Exponential_family

(h, g, u)

$(h, g, \mathbf u)$

— ブレントカービー

@beckoあなたの議論は、与えられた分布は指数族の1つのメンバーになりうることを示していると思いますが、分布の族が指数族になれるということではありません。

— マシュードゥルーリー

定義の結果：ということであるサポートパラメータで指定されたインデックス分布族の依存しない。（確率分布のサポートは、確率1の最小集合（つまり、分布が存在する場所）です。したがって、パラメーターに応じたサポートを持つ分布族の反例を与えるだけで十分です。最も簡単な例は、次の一様分布のファミリです。

p (x | η) = h (x) g (η) \exp {η^{T} u (x)}

$p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\}$

η

$\eta$

η

$\eta$

U (0, η), η > 0

$\text{U}(0, \eta), \quad \eta > 0$ 。（@Chaconneによる他の回答は、より洗練された反例を示しています）。

— kjetil b halvorsen
ソース

非中心ラプラス分布考え

f (x; μ, σ) \propto \exp (- | x - μ | / σ) .

$f(x; \mu, \sigma) \propto \exp \left(-| x - \mu | / \sigma \right).$

ない限り、と書くことはできませんと関数の間の内積として。 $\mu = 0$ $|x - \mu|$ $\mu$ $x$

指数関数族には、私たちがよく遭遇する素晴らしい名前付き分布の大部分が含まれているので、最初は興味のあるすべてのものがあるように見えるかもしれませんが、決して網羅的ではありません。

— jld
ソース