2つのガウス分布の加重混合の分散とは何ですか？

平均およびと分散および 2つの正規分布AおよびBがあるとします。私は重み使用して、これらの二つの分布の重み付き混合物を取りたいとと。この混合の平均はます。 $\mu_A$ $\mu_B$ $\sigma_A$ $\sigma_B$ $p$ $q$ $0\le p \le 1$ $q = 1-p$ $\mu_{AB} = (p\times\mu_A) + (q\times\mu_B)$

分散はどうなりますか？

具体的な例は、男性と女性の身長の分布のパラメーターを知っていた場合です。男性が60％の人の部屋がある場合、部屋全体の予想平均身長を算出できますが、分散はどうでしょうか。

normal-distribution mixture

— ヨフル
ソース

用語について：混合物には単純に平均値と分散があります。とがランダム変数と見なされることをおそらく示唆していない限り、これらを「期待される」と見なす意味はありません。

p

$p$

q

$q$

— whuber

2つのガウス分布の混合が識別可能であることを知っています。しかし、2つのディストリビューションのエマンが同じ場合はどうでしょうか？つまり、同じ平均値と異なる標準偏差を持つ2つの正規分布の混合は識別可能ですか？この文脈で論文がありますか？事前に感謝

同様の質問と回答（COVARIANCESにも対処）があります：math.stackexchange.com/q/195911/96547

— hplieninger

分散は2番目のモーメントから1番目のモーメントの2乗を引いたものであるため、混合のモーメントを計算するだけで十分です。

一般に、PDFおよび定数（非ランダム）重み分布が与えられた場合、混合物のPDFは次のようになります。 $f_i$ $p_i$

f (x) = \sum_{i} p_{i} f_{i} (x),

$f(x) = \sum_i{p_i f_i(x)},$

そこからは、任意の瞬間のためにすぐに次のこと $k$

μ^{(k)} = E_{f} [x^{k}] = \sum_{i} p_{i} E_{f_{i}} [x^{k}] = \sum_{i} p_{i} μ_{i}^{(k)} .

$\mu^{(k)} = \mathbb{E}_{f}[x^k] = \sum_i{p_i \mathbb{E}_{f_i}[x^k]} = \sum_i{p_i \mu_i^{(k)}}.$

私は書かれているのためのモーメントとのためのモーメント。 $\mu^{(k)}$ $k^{th}$ $f$ $\mu_i^{(k)}$ $k^{th}$ $f_i$

これらの式を使用して、分散を書くことができます

Var (f) = μ^{(2)} - {(μ^{(1)})}^{2} = \sum_{i} p_{i} μ_{i}^{(2)} - {(\sum_{i} p_{i} μ_{i}^{(1)})}^{2} .

$\text{Var}(f) = \mu^{(2)} - \left(\mu^{(1)}\right)^2 = \sum_i{p_i \mu_i^{(2)}} - \left(\sum_i{p_i \mu_i^{(1)}}\right)^2.$

分散場合等価、として与えられる、次に、混合物の分散を、その成分の分散と平均に関して次のように記述することができます。 $f_i$ $\sigma^2_i$ $\mu^{(2)}_i = \sigma^2_i + \left(\mu^{(1)}_i\right)^2$ $f$

\begin{aligned} Var (f) & = \sum_{i} p_{i} (σ_{i}^{2} + {(μ_{i}^{(1)})}^{2}) - {(\sum_{i} p_{i} μ_{i}^{(1)})}^{2} \\ = \sum_{i} p_{i} σ_{i}^{2} + \sum_{i} p_{i} {(μ_{i}^{(1)})}^{2} - {(\sum_{i} p_{i} μ_{i}^{(1)})}^{2} . \end{aligned}

$\eqalign{ \text{Var}(f) &= \sum_i{p_i \left(\sigma^2_i + \left(\mu^{(1)}_i\right)^2\right)} - \left(\sum_i{p_i \mu_i^{(1)}}\right)^2 \\ &= \sum_i{p_i \sigma^2_i} + \sum_i{p_i\left(\mu_i^{(1)}\right)^2} - \left(\sum_{i}{p_i \mu_i^{(1)}}\right)^2. }$

言い換えれば、これは、（加重）平均分散に平均二乗平均マイナス平均平均の二乗を加えたものです。二乗は凸関数であるため、Jensenの不等式は、平均二乗平均が平均二乗以上になることを主張しています。これは、私たちは述べた式を理解することができ、混合物の分散は分散の混合物であるプラス手段の（加重）の分散を占める非負用語。

あなたの場合、分散は

p_{A} σ_{A}^{2} + p_{B} σ_{B}^{2} + [p_{A} μ_{A}^{2} + p_{B} μ_{B}^{2} - (p_{A} μ_{A} + p_{B} μ_{B})^{2}] .

$p_A \sigma_A^2 + p_B \sigma_B^2 + \left[p_A\mu_A^2 + p_B\mu_B^2 - (p_A \mu_A + p_B \mu_B)^2\right].$

これは、2つの分散加重混合であると解釈できます。さらに、混合平均全体に対する個々の平均からのシフトを説明するための（必然的に正の）補正項を解釈できます。 $p_A\sigma_A^2 + p_B\sigma_B^2$

質問で与えられたようなデータの解釈におけるこの分散の有用性は、混合分布が正規ではないため（そして、二峰性を示す程度まで実質的にそこから逸脱する可能性があるため）疑わしいです。

— ヒューバー
ソース

特に、であることに注意すると、最後の式は。

p_{A} + p_{B} = 1

$p_A+p_B=1$

σ^{2} = μ^{(2)} - μ^{2} = p_{A} σ_{A}^{2} + p_{B} σ_{B}^{2} + p_{A} p_{B} (μ_{A} - μ_{B})^{2}

$\sigma^2=\mu^{(2)}-\mu^2=p_A\sigma_A^2+p_B\sigma_B^2+p_Ap_B(\mu_A-\mu_B)^2$

— イルマリカロネン

または、我々はイベントがある（混合密度を確率的説明を課す行う場合 probabiityのおよび条件付きの密度所与である一方、条件付きの密度所与は）、varは条件付き分散の平均と条件付き平均の分散の合計です。後者は、値が確率がおよび離散RVです。

A

$A$

p_{A}

$p_A$

X

$X$

A

$A$

N (μ_{A}, σ_{A}^{2})

$N(\mu_A,\sigma_A^2)$

X

$X$

A^{c} = B

$A^c = B$

N (μ_{B}, σ_{B}^{2})

$N(\mu_B,\sigma_B^2)$

(X)

$(X)$

Y

$Y$

μ_{A}, μ_{B}

$\mu_A, \mu_B$

p

$p$

q

$q$ 角括弧で囲まれた式はとすぐに認識されます。

E [Y^{2}] - (E [Y])^{2}

$E[Y^2]-(E[Y])^2$

— ディリップサーワテ

@Neodyme定義によれば、分散は2次モーメントから平均2乗を引いたものです。したがって、2番目の瞬間は分散に平均二乗を加えたものです。

— whuber

@Neodymeはます。

E (X) = μ

$E(X)=\mu$

— whuber

@Kiran混合物が正常に見える場合もありますが、そうではありません。これを確認する1つの方法は、ここで与えられた式を使用して過剰な尖度を計算することです。すべての標準偏差が等しくない限り、ゼロではありません。この場合、「混合物」はそもそも実際には混合物ではありません。

— whuber