SVDを協調フィルタリングの問題に適用するとどうなりますか？2つの違いは何ですか？

協調フィルタリングでは、入力されていない値があります。ユーザーが映画を見なかった場合、そこに「na」を入力する必要があります。

このマトリックスのSVDを取得する場合、そこにいくつかの数値（0など）を入力する必要があります。マトリックスを因数分解すると、同様のユーザーを見つける方法があります（どのユーザーが縮小された次元空間）。しかし、予測される嗜好自体-アイテムに対するユーザーにとってはゼロになります。（なぜなら、未知の列に入力したものだからです）。

そのため、共同フィルタリングとSVDの問題に悩まされています。それらはほとんど同じように見えますが、完全ではありません。

それらの違いは何ですか？SVDを協調フィルタリング問題に適用するとどうなりますか？私はそうしましたが、結果は近くのユーザーを見つけるという点で許容できるように見えますが、これは素晴らしいですが、どのようにですか？

$\DeclareMathOperator*{\argmin}{arg\,min}$ OK、SVDと言うとき、おそらく切り捨てられた SVD（最大の特異値のみを保持する）について話しているのでしょう。マトリックスの切り捨てられたSVDを見るには、2つの異なる方法があります。1つは標準定義です。$k$

最初にSVDを実行します：、ここでとは回転行列で、は対角線に沿った特異値を持ちます。次に、上位特異値を選択し、残りをゼロにし、無関係な行と列をハックして、元のランク近似を作成します UVΣKKX≈〜X =〜Uのn × kのK × K 〜Σ〜V Tの K × $\underset{n\times m}{X} = \underset{n\times n}{U} \overset{n\times m}{\Sigma} \underset{m\times m}{V^T}$$U$$V$$\Sigma$$k$$k$$X \approx \tilde{X} = \underset{n\times k}{\tilde{U}} \overset{k\times k}{\tilde{\Sigma}} \underset{k\times m}{\tilde{V}^T}$

これはすべて素晴らしくて（そしてRまたはmatlabで簡単に実装できます）、欠損値のある行列については意味がありません。ただし、切り捨てられたSVD には興味深い特性があります。これは、元のランクの最良の近似です。あれは：$k$$k$

$\tilde{X} = \argmin_{B : rank(B)=k} \displaystyle\sum\limits_{i,j} (X_{ij} - B_{ij})^2$

このプロパティは、欠損値の場合に簡単に一般化できるようです。基本的に、元の行列の既知のエントリ全体の要素ごとの平均二乗誤差を最小化するランクの行列を探しています。つまり、システムをトレーニングしているときに、すべての欠損値を無視します。（あなたが実際に見つけることについて行くかもしれない方法のヒントについて -rank近似、ここにあるいくつかの場所を見に）。$k$$k$

次に、元のランクの近似値を適切に「近似」するようになったら、それを使用して欠損値を埋めます。つまり、が欠落している場合は、ます。多田！これで完了です。X I J 〜X I $k$$X_{ij}$$\tilde{X}_{ij}$

欠損値の処理方法については、多くのアプローチがあるようです。セクション1.3でレビューした以下の論文は、良い出発点かもしれません。

Stumpy Joe Peteの答えにコメントするには、もっと評判が必要なので、これを答えとして投稿します。

少し説明が必要だと思いますが、答えに感謝します。特に私はこの文を意味します：

基本的に、元の行列の既知のエントリ全体の要素ごとの平均二乗誤差を最小化するkランクの行列を探しています。

最初に-最高ランクは常にこれを最小化するのではなく、実際に元のX行列を再構築しますか？第二に-なぜあなたは既知のエントリだけを取るのでしょうか。直感的には理にかなっていますが、手順は実際にはいくつかの妥当な数で置き換えられた空の場所にも適合しています。

私のアプローチは、相互検証のようなものを実行することです：

1. 空の場所に0または手段、または別の妥当な数を入力します。
2. n個の既知の要素の1つを0または適切な数で置き換えます
3. ランクkのSVD再構成を実行する
4. 既知の再構成要素の値を確認してください。
5. 可能なすべての既知の要素について繰り返し、MSEを計算します
6. 可能なすべてのkについて繰り返し、MSEが最も低いものを選択します。