クラスター数を決定するためのエルボ基準

言及され、ここでデータ・セット内のクラスターの最適数を決定するための方法の一つは、「肘方法」であること。ここで、分散のパーセンテージは、グループ全体の分散に対するグループ間の分散の比率として計算されます。

この計算を理解するのは難しいと感じました。機能マトリックスとして表されたデータセットの分散の割合を計算する方法を説明できますか$F \in \mathbf{R}^{m \times n}$、 どこ $m$ フィーチャーディメンションであり、 $n$データポイントの数です。クラスタリングにはk-meansアルゴリズムを使用しています。

k平均アルゴリズムの根底にある考え方は、クラスター内の分散を最小化する（または定数まで対応する二乗の合計またはSSを最小化する）クラスターを見つけようとすることです。修繕。wikiで述べたように、SS内で直接使用し、クラスターの数を増やすときにその変化を見ることができます（Screeplotを使用したFactor Analysisで行うように）：SSの進化方法の突然の変更は、最適なソリューションを示唆しています、これは単に視覚的な評価から立っています。全体の分散が固定されているため、説明された分散のパーセンテージとも呼ばれる、SSとの間の比率がどのように進化するかを調査することと同じです。これは、この場合、1つのkから次のkに大きなギャップが生じるためです。 +1。

要約すると、各クラスターについて、各データポイントとそれぞれの中心（または重心）の間の距離の2乗を計算する必要があります-これにより、SS内が得られ、SS内の合計はクラスター固有の合計になりますWSS（それらを分散に変換することは、対応する自由度で除算するだけの問題です）; ＳＳ間は、総ＳＳから総ＷＳＳを引くことにより得られ、後者は、例えば、ｋ ＝ １を考慮することにより得られる。

ちなみに、k = 1では、WSS = TSSおよびBSS = 0です。

クラスターの数またはk平均法で停止する場所を決定した後である場合は、エルボ基準の代わりにギャップ統計を検討することができます。

Tibshirani、R.、Walther、G.およびHastie、T.（2001）。ギャップ統計を介したデータセット内のクラスター数の推定。JR Statist。Soc。B、63（2）：411-423。