コイントスの例への期待値最大化の適用

私は最近、期待値の最大化について自己研究しており、その過程でいくつかの簡単な例を取得しました。

ここから：3枚のコイン、、、、、およびは、投げられたときに頭に着く確率です。トス。結果がHeadの場合、 3回トスし、それ以外の場合、 3回トスし。およびによって生成される観測データは、HHH、TTT、HHH、TTT、HHHのようなものです。隠されたデータはの結果です。推定 $c_0$ $c_1$ $c_2$ $p_0$ $p_1$ $p_2$ $c_0$ $c_1$ $c_2$ $c_1$ $c_2$ $c_0$ 、及び。 $p_0$ $p_1$ $p_2$

そしてここから：2つのコインと、とは投げられたときに頭に着く確率です。各ラウンドで、コインをランダムに1枚選択し、10回投げます。結果を記録します。観察されたデータは、これらの2つのコインによって提供されるトス結果です。ただし、特定のラウンドでどのコインが選択されたかはわかりません。および推定します。 $c_A$ $c_B$ $p_A$ $p_B$ $p_A$ $p_B$

計算を取得することはできますが、それらの解決方法を元のEM理論に関連付けることはできません。具体的には、両方の例のMステップで、どのように最大化されているのかわかりません。パラメータを再計算しているようで、新しいパラメータは古いパラメータよりも優れています。さらに、2つのEステップは、元の理論のEステップは言うまでもなく、互いに似ているようにも見えません。

それでは、これらの例はどのように機能するのでしょうか？

probability-theory statistics

— 氷雪
ソース

最初の例では、同じ実験のインスタンスをいくつ取得しますか？2番目の例では、「ランダムに1つのコインを選択する」という法則は何ですか？いくつのラウンドを観察しますか？

— ラファエル

私がリンクしたPDFファイルは、これら2つの例を段階的に解決しています。ただし、使用されているEMアルゴリズムが本当に理解できません。

— IcySnow

@IcySnow、ランダム変数の期待と条件付き期待の概念を理解していますか？

— ニコラスマンクーソ

ランダム変数と条件付き確率の基本的な期待を理解しています。ただし、条件付き期待値、その派生値、および十分な統計については詳しくありません。

— IcySnow

（この回答では、指定した2番目のリンクを使用します。）

$\newcommand{\Like}{\text{L}}\newcommand{\E}{\text{E}}$ 尤度の定義を思い出してください：我々の場合には確率の推定量であること硬貨A及びBはそれぞれランドヘッド、実験の結果である、各

L [θ | X] = Pr [X | θ] = \sum_{Z} Pr [X, Z | θ]

$\Like[\theta | X] = \Pr[X| \theta] = \sum_Z \Pr[X, Z | \theta]$

θ = (θ_{A}, θ_{B})

$\theta = (\theta_A, \theta_B)$

X = (X_{1}, \dots, X_{5})

$X = (X_1, \dotsc, X_5)$

は10回のフリップで構成され、

は各実験で使用されたコインです。

X_{i}

$X_i$

Z = (Z_{1}, \dots, Z_{5})

$Z = (Z_1, \dotsc, Z_5)$

私たちは、最尤推定量を見つけたい。期待値最大化（EM）アルゴリズム（少なくとも局所を見つけるためにこのような方法の一つである。条件付き期待値を見つけることで機能し、それを使用してを最大化します。アイデアは、各反復でより可能性の高い（つまり、より可能性の高い）を継続的に見つけることによりは、尤度関数を増加させます。EMベースのアルゴリズムを設計する前に、3つのことを行う必要があります。 $\hat{\theta}$ $\hat{\theta}$ $\theta$ $\theta$ $\Pr[X,Z|\theta]$

モデルを作成する
モデルの下での条件付き期待値の計算（E-Step）
$\theta$

モデルを構築する

$\log \Pr[X,Z|\theta]$

\begin{aligned} \log Pr [X, Z | θ] & = \sum_{i = 1}^{5} \log \sum_{C \in {A, B}} Pr [X_{i}, Z_{i} = C | θ] \\ = \sum_{i = 1}^{5} \log \sum_{C \in {A, B}} Pr [Z_{i} = C | X_{i}, θ] \cdot \frac{Pr [X_{i}, Z_{i} = C | θ]}{Pr [Z_{i} = C | X_{i}, θ]} \\ \geq \sum_{i = 1}^{5} \sum_{C \in {A, B}} Pr [Z_{i} = C | X_{i}, θ] \cdot \log \frac{Pr [X_{i}, Z_{i} = C | θ]}{Pr [Z_{i} = C | X_{i}, θ]} . \end{aligned}

$\begin{align*} \log \Pr[X,Z|\theta] &= \sum_{i=1}^5 \log\sum_{C\in \{A,B\}}\Pr[X_i, Z_i=C| \theta]\\ &=\sum_{i=1}^5 \log\sum_{C\in \{A,B\}} \Pr[Z_i=C | X_i, \theta] \cdot \frac{\Pr[X_i, Z_i=C| \theta]}{\Pr[Z_i=C | X_i, \theta]}\\ &\geq \sum_{i=1}^5 \sum_{C\in \{A,B\}} \Pr[Z_i=C | X_i, \theta] \cdot \log\frac{\Pr[X_i, Z_i=C| \theta]}{\Pr[Z_i=C | X_i, \theta]}. \end{align*}$

\log

$\log$

$\Pr[Z_i=C|X_i,\theta]$ $C$ $X_i$ $\theta$

Pr [Z_{i} = C | X_{i}, θ] = \frac{Pr [X_{i}, Z_{i} = C | θ]}{Pr [X_{i} | θ]} .

$\Pr[Z_i=C| X_i, \theta] = \frac{\Pr[X_i, Z_i = C|\theta]}{\Pr[X_i|\theta]}.$

$X_i$ $h_i = \#\text{heads in } X_i$

Pr [X_{i}, Z_{i} = C | θ] = \frac{1}{2} \cdot θ_{C}^{h_{i}} (1 - θ_{C})^{10 - h_{i}}, for C \in {A, B} .

$\Pr[X_i, Z_i = C| \theta] = \frac{1}{2} \cdot \theta_C^{h_i} (1 - \theta_C)^{10 - h_i},\ \text{ for } \ C \in \{A, B\}.$

Pr [X_{i} | θ]

$\Pr[X_i|\theta]$

Z_{i} = A

$Z_i=A$

Z_{i} = B

$Z_i=B$

Pr [Z_{i} = A] = Pr [Z_{i} = B] = 1 / 2

$\Pr[Z_i = A] = \Pr[Z_i = B] = 1/2$

Pr [X_{i} | θ] = 1 / 2 \cdot (Pr [X_{i} | Z_{i} = A, θ] + Pr [X_{i} | Z_{i} = B, θ]) .

$\Pr[X_i|\theta] = 1/2 \cdot (\Pr[X_i |Z_i = A, \theta] + \Pr[X_i |Z_i = B, \theta]).$

Eステップ

$\theta$ $\theta^0 = (0.6,0.5)$

Pr [Z_{1} = A | X_{1}, θ] = \frac{1 / 2 \cdot ({0.6}^{5} \cdot {0.4}^{5})}{1 / 2 \cdot (({0.6}^{5} \cdot {0.4}^{5}) + ({0.5}^{5} \cdot {0.5}^{5}))} \approx 0.45.

$\Pr[Z_1=A|X_1,\theta] = \frac{1/2 \cdot (0.6^5 \cdot 0.4^5)}{1/2 \cdot ((0.6^5 \cdot 0.4^5) + (0.5^5 \cdot 0.5^5))} \approx 0.45.$

X_{1} = (H, T, T, T, H, H, T, H, T, H)

$X_1 = (H,T,T,T,H,H,T,H,T,H)$

A

$A$

E [# heads by coin A | X_{1}, θ] = h_{1} \cdot Pr [Z_{1} = A | X_{1}, θ] = 5 \cdot 0.45 \approx 2.2.

$\E[\# \text{heads by coin }A | X_1, \theta] = h_1 \cdot \Pr[Z_1=A|X_1,\theta] = 5 \cdot 0.45 \approx 2.2.$

B

$B$

E [# heads by coin B | X_{1}, θ] = h_{1} \cdot Pr [Z_{1} = B | X_{1}, θ] = 5 \cdot 0.55 \approx 2.8.

$\E[\# \text{heads by coin }B | X_1, \theta] = h_1 \cdot \Pr[Z_1=B|X_1,\theta] = 5 \cdot 0.55 \approx 2.8.$

h_{1}

$h_1$

10 - h_{1}

$10 - h_1$

X_{i}

$X_i$

h_{i}

$h_i$

1 \leq i \leq 5

$1 \leq i \leq 5$

E [# heads by coin A | X, θ] = \sum_{i = 1}^{5} E [# heads by coin A | X_{i}, θ]

$\E[\#\text{heads by coin } A|X ,\theta] = \sum_{i=1}^5 \E[\# \text{heads by coin }A | X_i, \theta]$

Mステップ

$\theta$

θ_{A}^{1} = \frac{E [# heads over X by coin A | X, θ]}{E [# heads and tails over X by coin A | X, θ]} = \frac{21.3}{21.3 + 9.6} \approx 0.71.

$\theta_A^1 = \frac{E[\#\text{heads over } X \text{ by coin } A|X ,\theta]}{E[\#\text{heads and tails over } X \text{ by coin } A|X ,\theta]} = \frac{21.3}{21.3 + 9.6} \approx 0.71.$

B

$B$

θ^{1}

$\theta^1$

θ

$\theta$

\hat{θ} = θ^{10} = (0.8, 0.52)

$\hat{\theta} = \theta^{10} = (0.8, 0.52)$

Pr [X, Z | θ]

$\Pr[X,Z|\theta]$

θ

$\theta$

$\hat{\theta}$

— ニコラス・マンクーソ
ソース

明確でない部分がある場合は、それらを拡張することもできます。

— ニコラスマンクーソ

今ではもっとはっきりしています。本当に得られないのは、コインAの予想ヘッド数が次のように計算された理由です：E [#heads by coin A | X1、θ] =h1⋅Pr[Z1 = A | X1、θ] =5⋅0.45 ≈2.2？最初のPDFで言及されている問題はより複雑です。気にしない場合は、そのための例示的な計算もできますか？ご回答ありがとうございます。

— IcySnow

E [# heads by coin A | X_{1}, θ] = \sum_{# heads in X_{1}} Pr [Z_{1} = A | X_{1}, θ] = 5 \cdot Pr [Z_{1} = A | X_{1}, θ]

$E[\# \text{ heads by coin }A|X_1,\theta] = \sum_{\#\text{ heads in }X_1} \Pr[Z_1 = A| X_1, \theta] = 5 \cdot \Pr[Z_1 = A| X_1, \theta]$ 。理由は、Aが使用された場合、別のインジケーターのランダム変数があると考えることができるからです。指標変数に対する期待値の計算は、そのイベントの確率である単純です。

— ニコラス

返信が遅くなってすみません。おかげで、何度も答えを読んだ後、2つのコインの例の背後にあるロジックを本当に理解できました。この質問に関して最後にお願いしたいことが1つあります。このスライドの8ページから始まる例cs.northwestern.edu/~ddowney/courses/395_Winter2010/em.pptは、M-Stepで最初に計算する必要があることを示しています対数尤度関数の導関数であり、それを使用して期待値を最大化します。コイントスの例のM-Stepsで、なぜそのようなことはないのですか？これらのMステップは、最大化されているようには見えないため

— IcySnow

Pr [Z_{i} = A | X_{i}, θ] + Pr [Z_{i} = B | X_{i}, θ] = 1

$\Pr[Z_i=A|X_i,\theta]+\Pr[Z_i=B|X_i,\theta]=1$

i

$i$