t-SNEと比較した、UMAPの動作の直観的な説明

分子生物学の博士号を持っています。私の研究は最近、高次元のデータ分析を伴うようになりました。t-SNEがどのように機能するかはわかりましたが（YouTubeのStatQuestビデオのおかげです）、UMAPを思い巡らすことはできません（UMAPクリエーターの話をオンラインで聞いていましたが、簡単に理解できませんでした）。私はそれを説明する元の論文に戻りましたが、それは私にとってはあまりにも多くの数学でした。

誰かが問題についていくつかの光を当てることができますか？上記のリンクされたStatQuestビデオと同様に、私は直観的な説明を探しています。

t-SNEの理解はhttps://www.youtube.com/watch?v=NEaUSP4YerMに基づいており、同様のレベルでUMAPの説明を求めているとのことですが、

私はこのビデオを見ました、そしてそれが言うことでかなり正確です（私はいくつかのマイナーなつまようじを持っていますが、全体的にそれは問題ありません）。おもしろいことに、それはほとんどそのままUMAPに適用されます。適用されないものは次のとおりです。

1. 類似度は、異なるカーネルを使用して距離から計算されます。これはガウスではありませんが、指数関数的に減衰し、t-SNEのように適応的な幅も持っています。
2. 類似性は合計が1になるように正規化されていませんが、最終的には定数値を合計するように正規化されています。
3. 類似性は対称化されていますが、平均化だけではありません。
4. 埋め込み空間の類似性カーネルは、厳密にはt分布カーネルではなく、非常によく似たカーネルです。

これらの違いはすべて、それほど重要ではなく、あまり重要ではありません。実際に重要な部分は、ビデオでナレーターが言う部分（10分40秒）です。

私たちは作りたい、このような行を見て、この行を[...]

ビデオでは、t-SNEがそれらが類似しているかどうかを定量化する方法と、それらが類似して見えることを達成する方法について説明していません。UMAPでは両方の部分が異なります。しかし、引用されたステートメントはUMAPにも適用できます。

UMAP論文の記述方法、t-SNEとの計算上の類似性はあまり明らかではありません。https://arxiv.org/pdf/1802.03426.pdfの付録Cまで下にスクロールするか、またはhttps://arxiv.org/pdf/1802.03426.pdfをご覧になる場合は、https：//jlmelville.github.io/uwot/umap-for-tsne.htmlこちらをご覧ください。上記の計算とt-SNEおよびUMAPの損失関数を並べて比較します。

t-SNEとUMAPの主な違いは、オブジェクトまたは「クラスター」間の距離の解釈です。どちらのアルゴリズムもクラスタリング用ではないため、引用符を使用します。これらは主に視覚化を目的としています。

t-SNEはローカル構造をデータに保存します。

UMAPは、データのローカル構造とグローバル構造の両方を保持すると主張しています。

つまり、t-SNEでは、プロットの異なる端でのクラスターAとBの間の距離を解釈できません。これらのクラスターがAおよびCよりも類似していないと推測することはできません。CはプロットのAに近くなります。しかし、クラスターA内では、互いに近い点は、クラスター画像の異なる端にある点よりも類似したオブジェクトであると言えます。

UMAPを使用すると、ポイントとクラスターの/間の距離の両方を解釈できるはずです。

両方のアルゴリズムは非常に確率的で、ハイパーパラメーターの選択（t-SNEはUMAPよりもさらに大きい）に大きく依存し、異なる実行で非常に異なる結果を生成する可能性があるため、プロットは、後続の実行で明らかになる可能性があるデータの情報を難読化する可能性があります。

一方、古き良きPCAは決定論的であり、線形代数（行列の乗算と固有問題）の基本的な知識があれば簡単に理解できますが、t-SNEとUMAPの非線形削減とは対照的に、単なる線形削減です。