すべてのPLSコンポーネントが一緒になって元のデータの分散の一部しか説明しないのはなぜですか？

10個の変数で構成されるデータセットがあります。部分最小二乗（PLS）を実行して、これらの10個の変数によって単一の応答変数を予測し、10個のPLSコンポーネントを抽出して、各コンポーネントの分散を計算しました。元のデータでは、702であるすべての変数の分散の合計を取った。

次に、各PLSコンポーネントの分散をこの合計で割って、PLSで説明される分散のパーセンテージを得ました。驚くべきことに、すべてのコンポーネントを合わせると、元の分散の44％しか説明されません。

その説明は何ですか？100％じゃないですか？

すべてのPLSコンポーネントの分散の合計は、通常100％未満です。

$\mathbf y$$\mathbf X$

$\mathbf t_i = \mathbf X \mathbf w_i$

1. $\mathbf y$$\mathbf t_i$
2. $\|\mathbf w_i\|=1$
3. 任意の2つのPLSコンポーネント（別名スコアベクトル）およびは無相関です。$\mathbf t_i$$\mathbf t_j$

重みベクトルは直交している必要はありません（直交している必要もありません）。

これは、が変数で構成され、 PLSコンポーネントが見つかった場合、基底ベクトルに相関のない射影をもつ非直交基底を見つけたことを意味します。そのような状況では、これらすべての投影の分散の合計が分散の合計よりも小さくなることを数学的に証明できます。重みベクトルが直交している場合（PCAなどの場合）は等しくなりますが、PLSではそうではありません。$\mathbf X$$k=10$$10$$\mathbf X$

私は知らない任意のここを参照してください、明示的にこの問題を議論することを教科書や論文が、私は以前にも非直交単位重量ベクトルに相関しない突起の数をもたらすこと線形判別分析（LDA）の文脈でそれを説明しています：PCAとLDAの説明された差異の割合。