非正定共分散行列はデータについて何を教えてくれますか？

多くの多変量観測値があり、すべての変数の確率密度を評価したいと思います。データは正規分布していると想定されます。変数の数が少ない場合、すべてが期待どおりに機能しますが、より大きな数に移動すると、共分散行列が非正定値になります。

Matlabの問題を次のように減らしました：

load raw_data.mat; % matrix number-of-values x number of variables
Sigma = cov(data);
[R,err] = cholcov(Sigma, 0); % Test for pos-def done in mvnpdf.

err> 0の場合、シグマは正定ではありません。

より高い次元で実験データを評価するためにできることはありますか？それは私のデータについて有用なことを教えてくれますか？

私はこの分野の初心者ですが、明らかな何かを見逃してしまった場合はおologiesびします。

共分散行列は特異であるため、正定値ではありません。つまり、少なくとも1つの変数を他の変数の線形結合として表現できます。少なくとも1つの変数の値は他の変数のサブセットから決定できるため、すべての変数が必要なわけではありません。変数を順番に追加し、各ステップで共分散行列を確認することをお勧めします。新しい変数が特異点を作成する場合、それをドロップして次の変数に進みます。最終的に、正定共分散行列を持つ変数のサブセットが必要になります。

有効な結果です。共分散行列のそのコンポーネントの推定値はゼロです。これは非常に正しい可能性があります。計算が困難になる可能性がありますが、Rの一部のアルゴリズム（Matlabについては知りません）はこれを処理できます。なぜ人々がこれに腹を立て、よりpar約的なモデルの適合を主張するのか理解できません。

上記で対処できないと思う点の1つは、変数が完全に線形に関連していない場合でも、経験データから非正定共分散行列を計算できることです。十分なデータがない場合（特に、ペアワイズ比較の束から高次元の共分散行列を構築しようとしている場合）、またはデータが多変量正規分布に従っていない場合、逆説的な関係になりますcov（A、B）> 0などの変数間; cov（A、C）> 0; cov（B、C）<0。

このような場合、これらの基準を満たす多変量正規分布がないため、多変量正規PDFに適合できません。cov（A、B）> 0およびcov（A、C）> 0は、cov（B、C ）> 0。

これはすべて、非正定行列が必ずしも共線変数を含むことを意味するわけではありません。また、選択したパラメトリック構造では不可能な関係をモデル化しようとしていることを示唆する場合もあります。