長方形の密行列のヌル空間

密行列を与え

A \in R^{m \times n}, m >> n; m a x (m) \approx 100000

$A \in R^{m \times n}, m >> n; max(m) \approx 100000$ いくつかの許容範囲内にその零空間の基礎を見つけるための最善の方法は何か

ϵ

$\epsilon$ ？

その根拠に基づいて、私はその後、特定のCOLSは内直線的に依存していると言うことができ $\epsilon$ ？言い換えれば、ヌル空間基底を計算して、非特異行列を得るためにのどの列を $A$ 削除する必要があるのでしょうか？

参考文献を歓迎します。

linear-algebra

— アレキサンダー
ソース

回答:

行列のヌル空間を決定する標準的な方法は、QR分解またはSVDを使用することです。精度が重要な場合は、SVDが優先されます。QR分解は高速です。

$A = U\Sigma V^{H}$ $V$ $\Sigma$ $\max(m,n) \cdot \varepsilon$ $\varepsilon$

QR分解を使用して、、のランクが場合、最後の列は、QR分解がランクを明らかにすると仮定してのヌルスペースを構成します。を決定するには、の主対角線上の大きさが許容値を超えるエントリの数を計算します（SVDアプローチで使用されるものと同様）。 $A^{T} = QR$ $A$ $r$ $n-r$ $Q$ $A$ $r$ $R$

LU分解を使用しないでください。正確な算術では実行可能なアプローチですが、浮動小数点演算では数値誤差が累積するため不正確になります。

ウィキペディアでは、これらのトピックについて説明しています。

— ジェフ・オックスベリー
ソース

QRの観点から話しているジェフは、分解があると仮定して、元の行列のヌル空間基底と列をどのように関連付けるのでしょうか？言い換えると、ヌルスペースを取り除くために、からどの列を削除する必要がありますか？ここでのポイントは、分解ではなく自体を使用することです。

A

$A$

A

$A$

— アレクサンダー

QR分解を計算するルーチンには、通常、QR分解を得るために列を並べ替える方法を示す並べ替えベクトルを返すオプションが含まれています。その順列ベクトルの最後のエントリは、nullspaceにあるの行（の列）に対応します。そのベクトルの最初のエントリは、線形独立な列に対応します。「ヌルスペースを取り除く」とはどういう意味かわかりません。列を削除して非特異行列を取得するということですか？

n - r

$n-r$

A

$A$

A^{T}

$A^{T}$

r

$r$

A^{T}

$A^{T}$

A

$A$

— ジェフオックスベリー

はい、そうです。順列を見ていきます、ありがとう。

— アレクサンダー

それは別の質問です。その代わりに行うことは、 QR分解（またはSVD）を計算です。のQR分解を計算する場合、上記の答えのようにのランクを計算できます（行列を転置する必要はありません）。次に、置換ベクトルの最初のエントリ（はのランク）が対応しますの独立した列に。同じ種類のアルゴリズムがSVDに適用されます。分解とともに置換ベクトルを返すことができれば、それは必要な情報を提供するはずです。

A

$A$

A

$A$

A

$A$

r

$r$

r

$r$

A

$A$

A

$A$

— ジェフオックスベリー

質問が示すように場合、最初に（たとえば）ランダム行のインデックスセットを選択し、直交因数分解を使用するにより、作業を節約できます。（QR-因数は1であり sqareであり、ランクの長方形であり、残りの列ゼロで安定性を増強する置換QR因数分解を使用し;順列は、次に、より詳細に考慮されなければなりませんレシピ。） $m\gg n$ $I$ $p\approx 5n$ $A_{I:}^T=QR$ $Q$ $R$ $r$ $n-r$ $R$

通常、これにより、列、最後の列にまたがるはるかに低い次元の部分空間が得られます。この部分空間には、のヌル空間が含まれます。次に、別のばらばらのランダムインデックスセットを選択し、のQR分解を計算します。乗算することにより、左側の結果のヌル空間のの改善を得るためにおそらくさらに低い次元のを。の次元が減少しなくなるまで繰り返します。次に、おそらく正しいヌルスペースがあり、を計算することで確認できます。これがまだ無視できない場合は、最上位の行でさらに繰り返します。 $N$ $n-r$ $Q$ $A$ $(A_{I:}N)^T$ $N$ $N$ $N$ $AN$

編集：取得したら、ピボットをした直交因数分解により、線形独立列の最大セットを見つけることができます。実際、ピボットとして選択されていないインデックスのセットには、このプロパティがあります。 $N$ $J$ $A$ $N^T=QR$ $J$

— アーノルド・ノイマイアー
ソース

+1は、大きな行列のヌル空間を決定する効率的な方法です。後で必要なときにこの回答を参照することを忘れないでください。

— ジェフオックスベリー

実際、それは理にかなっていますが、私のマトリックスは16 GBのRAMに収まるので、標準のmatlab qrのままにします。

— アレクサンダー

Neumaier教授、私はそのアルゴリズムをテストすることにしましたが、

何であり、「

のQR分解を計算する」とはどういう意味か正確にはわかりません。もう少し説明してください。

N

$N$

(A_{I :} N)^{T}

$(A_{I:}N)^T$

— アレクサンダー

回答を少し編集しました。

はGeoff Oxberryのレシピによって計算されます。

N

$N$

— アーノルドノイマイアー

ありがとうございました。実装しました。しかし、私の知る限り見るように、このアルゴリズムは私の線形独立列の集合を定義することはできません

（我々が分解するので

ではなく

）が、ちょうどゼロ空間の基礎自体を推定するのに役立ちますか？

A

$A$

A_{I :}^{T}

$A_{I:}^T$

A_{I :}

$A_{I:}$

— アレクサンダー