PCA、ICA、ラプラシアン固有マップ

9

私はラプラシアン固有マップ法にとても興味があります。現在、私の医療データセットの次元削減に使用しています。

ただし、この方法を使用して問題が発生しました。

たとえば、いくつかのデータ（スペクトル信号）があり、PCA（またはICA）を使用して一部のPCおよびICを取得できます。問題は、元のデータの同様の次元削減コンポーネントを取得する方法ですか？

ラプラシアン固有マップ法によれば、次の一般化固有値問題を解く必要があります。

$L y = \lambda D y$

ここで、yは固有ベクトルです。固有ベクトル、たとえばyベクトルの上位3つ（3つの固有値に従って解を設定）をプロットすると、結果が解釈できなくなります。

ただし、常に上位3つのPCと上位3つのICをプロットできます。これらは、元のデータxを何らかの形で表します。

理由は、行列Lが重み付け行列（隣接行列W）によって定義され、データxが熱カーネルでフィッティングされて指数関数を使用するWが作成されたためだと思います。私の質問は、（行列Lの固有ベクトルyではなく）xの削減された成分を取得する方法ですか？

誠にありがとうございました。お返事をお待ちしております。

返信してくれてありがとう。

私のデータセットは制限されており、問題を実証するのは簡単ではありません。ここで私はおもちゃの問題を作成して、私が何を意味し、何を尋ねたいのかを示しました。

写真をご覧ください、

最初に、赤い曲線で示す正弦波A、B、Cを作成します（図の最初の列）。A、B、Cには1000個のサンプルがあります。つまり、1x1000ベクトルに保存されています。

次に、にランダムに作成された線形結合を使用してソースA、B、Cを混合しました。ここで、r1、r2、r3はランダムな値です。混合信号Mは非常に高次元の空間にあります。たとえば、、1517はランダムに選択された高次元の空間です。信号Mの最初の3行のみを緑色の曲線で示しています（図の2列目）。 $M = r1*A + r2*B + r3*C$ $M \in R^{1517\times1000}$

次に、PCA、ICA、およびラプラシアン固有マップを実行して、次元削減の結果を取得します。私は、3つのPC、3つのIC、および3つのLEを使用して、公平な比較を行いました（青い曲線は、図の3番目、4番目、および最後の列としてそれぞれ示されています）。

PCAとICAの結果（図の3列目、4列目）から、結果をいくつかの次元削減として解釈できることがわかります。つまり、ICA結果の場合、によって混合信号を回復できます。（PCAの結果でも取得できるかどうかはわかりませんが、結果は私にはまったく正しいようです）。 $M = b1*IC1 + b2*IC2 + b3*IC3$ $M = a1*PC1 + a2*PC2 + a3*PC3$

ただし、LEの結果を見てください。結果をほとんど解釈できません（図の最後の列）。削減されたコンポーネントで何か「間違っている」ようです。また、最終的に最後の列のプロットは式固有ベクトルであることにも触れたい $y$ $L y = \lambda D y$

あなたはもっとアイデアを得ましたか？

図1は、加熱カーネルで12の最近傍とシグマを使用して0.5です。左から右への列：元の信号、混合信号、PC、IC、LE

加熱カーネルで1000の最近傍点とシグマを使用した図2は0.5です。左から右への列：元の信号、混合信号、PC、IC、LE

必要なパッケージを含むMatlabコードがhttp://www.mediafire.com/?0cqr10fe63jn1d3にアップロードされます

本当にありがとう。

pca ica

— サモジェロム
ソース

2

サイトへようこそ！文法とスペルを編集しました。数式もLaTeX形式に入れました。

— ピーターフロム-モニカの回復

1

xの成分を減らすとはどういう意味ですか？つまり、xの低次元の埋め込みですか？

— 霊柩車

これは面白そうですね。実際にデータがどのように見えるかについて、より詳細な説明をいただけますか

— Placidia、

モデレーターが私の投稿を「注目の投稿」に入れることは可能ですか？私は本当に答えを得ることを強く勧めました。どうもありがとう。

— サモジェロム

3

あなたの質問への答えは、元のラプラシアン固有マップペーパーのページ6の下部にあるマッピングによって与えられます。

$x_i \rightarrow (f_1(i), \dots, f_m(i))$

$x_5$ $(f_1(5), f_2(5))$ $f_1$ $f_2$ $L f = \lambda D f$

$L$

— シャンタヌ
ソース

M

$M$

M^{T}

$M^T$ mixedSignal'

M

$M$

M

$M$

x_{i} \to (f_{1} (i), \dots, f_{m} (i))

$x_i \rightarrow (f_1(i), \dots, f_m(i))$ mixedSignalmappedX

PS：上記では、「LEM を使用してこれを実行することはできません。少なくとも簡単にはできません」という意味でした。

— Shantanu 2012年

1

PCAとは異なり、ラプラシアン固有マップは、最小の固有値に対応する一般化固有ベクトルを使用します。最小の固有値（ゼロの場合もある）を持つ固有ベクトルをスキップし、次に小さい最小の固有値に対応する固有ベクトルを使用します。PCAは、カーネル/グラムマトリックスを使用した最大分散保存埋め込みです。ラプラシアン固有マップは、組み合わせグラフのラプラシアンに関する最小化問題として提起されています（Trossetの論文を参照）。

— 霊柩車
ソース

興味のある方は、もう一度私の質問をご覧ください。いくつか例を挙げます。どうもありがとう。

— サモジェロム

1

これは、コースのTrosset教授のWebページへのリンクです。また、彼は毎週更新されるhttp://mypage.iu.edu/~mtrosset/Courses/675/notes.pdfの本を書いています。また、ラプラシアン固有マップのR関数も示します。自分で試してみてください。Belkinによるこの論文も検討してください。

Trosset教授のAbhik学生に感謝

— user4959
ソース