ガウス混合モデルの異なる共分散タイプ

ここでガウス混合モデルを試してみたところ、これら4種類の共分散が見つかりました。

'full' (each component has its own general covariance matrix),
'tied' (all components share the same general covariance matrix),
'diag' (each component has its own diagonal covariance matrix),
'spherical' (each component has its own single variance).

私は、これらの各タイプの詳細を見つけるために多くのことをGoogleで検索しますが（のような非常に高いレベルの説明見つかっこれのみ）。

誰かが私にこれらを理解するのを手伝ってくれるか、少なくとも私がこれらについて読むことができるどこかに私を導くことができるならば、感謝します。

ガウス分布は、共分散行列とその平均（空間内の位置）によって完全に決定されます。ガウス分布の共分散行列は、その密度等高線の軸の方向と長さを決定します。これらはすべて楕円体です。

$(0,0)$$(4,5)$$3/5$と$2/5$それぞれ。重みが異なると、共分散行列が同じ場合でも等高線のセットがわずかに異なって見えますが、個々の等高線の全体的な形状は、同一の行列でも同様になります。

画像をクリックすると、より高い解像度のバージョンが表示されます。

NBこれらは、個々の成分ではなく、実際の混合物のプロットです。コンポーネントは十分に分離されており、同等の重量であるため、混合物の輪郭はコンポーネントの輪郭に非常に似ています（たとえば、「結ばれた」プロットの中央に示されるように、歪んで結合する低レベルを除きます）。

• 完全とは、コンポーネントが独立して任意の位置と形状を採用できることを意味します。

• 結ばれているということは、それらが同じ形状を持っていることを意味しますが、形状は何でも構いません。

• 対角とは、輪郭軸が座標軸に沿って方向付けられていることを意味しますが、そうでない場合は、コンポーネント間で離心率が異なる場合があります。

• 拘束された対角線は、輪郭軸が座標軸に沿って方向付けられている「拘束された」状況です。（最初は「対角線」と誤解したため、これを追加しました。）

• 球状とは、円形の輪郭をもつ「対角線」の状況です（より高次元の球状、名前が由来します）。

これは、最も一般的な混合物から非常に特殊な混合物までの色域を示します。特に、パラメータの数が急速に増加する高次元では、他の（より大きな）制限が可能です。（の共分散行列$n$ 寸法は $n(n+1)/2$ 独立したパラメータ。）