共役勾配がこの非対称前提条件子で機能するのはなぜですか？

8

で、この前スレッド対称予備調整組み合わせる以下乗法方法及び対称システムのための示唆された： $P_1$ $P_2$ $Ax=b$

\begin{aligned} P_{コンボ}^{- 1} ：= & P_{1}^{- 1} + P_{2}^{- 1} （ 私 - あ P_{1}^{- 1} ） \\ = & P_{1}^{- 1} + P_{2}^{- 1} - P_{2}^{- 1} あ P_{1}^{- 1} 。 \end{aligned}

$\begin{align} P_\text{combo}^{-1} :=& P_1^{-1} + P_2^{-1}(I - A P_1^{-1})\\ =&P_1^{-1} + P_2^{-1} - P_2^{-1} A P_1^{-1}. \end{align}$

この結合された前提条件子は対称ではありません。ただし、とにかくいくつかの異なるコンテキストで共役勾配でそれを使用してみましたが、メソッドは常にうまく収束しているようです。どうしてこれなの？

例1：ランダム行列。

% Testing multiplicative combination of preconditioners
n = 500;
[U,S,~] = svd(randn(n,n)); A = U*S*U';
[W1,S1,~] = svd(randn(n,n)); noise1 = W1*S1*W1';
[W2,S2,~] = svd(randn(n,n)); noise2 = W2*S2*W2';
P1 = A + 0.5 * noise1;
P2 = A + 0.5 * noise2;

solve_P = @(x) P1\x + P2\x - P2\(A*(P1\x));

b = randn(n,1);
x_true = A\b;
pcg(A,b,1e-6,n);
pcg(A,b,1e-6,n,P1);
x = pcg(A,b,1e-6,n,solve_P);
norm(x_true - x)/norm(x_true)

これが私が得る出力です：

pcg converged at iteration 127 to a solution with relative residual 9.9e-07.
pcg converged at iteration 62 to a solution with relative residual 6.8e-07.
pcg converged at iteration 51 to a solution with relative residual 8.1e-07.
relative error= 4.23e-07

例2：ポアソン方程式を解くためのマルチグリッドと不完全コレスキーの組み合わせ。

n = 50; N = n^2;
A = gallery('poisson',n); %Laplacian on n-by-n grid, zero dirichlet BC

L = ichol(A);
solve_P1 = @(x) L'\(L\x);
% Combinatorial multigrid: http://www.cs.cmu.edu/~jkoutis/cmg.html
solve_P2 = cmg_sdd(A); 

solve_P = @(x) solve_P1(x) + solve_P2(x) - solve_P1(A*solve_P2(x));

b = randn(N,1);
x_true = A\b;
pcg(A,b,1e-6,N);
pcg(A,b,1e-6,N,solve_P1);
pcg(A,b,1e-6,N,solve_P2);
x = pcg(A,b,1e-6,N,solve_P);
disp(['relative error= ', num2str(norm(x_true - x)/norm(x_true),3)])

これについて私は結果を得ます：

pcg converged at iteration 131 to a solution with relative residual 8.4e-07.
pcg converged at iteration 44 to a solution with relative residual 6e-07.
pcg converged at iteration 19 to a solution with relative residual 7e-07.
pcg converged at iteration 12 to a solution with relative residual 4.7e-07.
relative error= 5.2e-07

ノート：

さらに複雑で現実的な状況で発生する、マトリックスに対する同じ定性的な動作も確認しました。
$Ax=b$ $e$ $r$ $Ae=r$ $P_1$ $A$ $P_2$ $A$

— ニック・アルガー
ソース

x

$x$

@WolfgangBangerthありがとう、タイプミスでした。修正されました。

— Nick Alger

4

つまり、クリロフベクトルの直交化は、演算子に関しては発生しますが、前提条件子に関しては発生しません。

$Ax=b$ $B$

\begin{aligned} {\hat{v}}_{1} = {\overset{〜}{v}}_{1} = & B b \\ v_{1} = & {\overset{〜}{v}}_{1} / c_{1} \\ {\hat{v}}_{私} = & B あ v_{私 - 1} \\ {\overset{〜}{v}}_{私} = & {\hat{v}}_{私} - Σ_{j = 1}^{私 - 1} ⟨ あ v_{k} 、 {\hat{v}}_{私} ⟩ v_{k} \\ v_{私} = & {\overset{〜}{v}}_{私} / c_{私} \\ c_{私} = & \sqrt{⟨ {\overset{〜}{v}}_{私} 、 {\overset{〜}{v}}_{私} ⟩} \end{aligned}

$\begin{align*} \hat{v}_1=\tilde{v}_1 =& Bb\\ v_1 =& \tilde{v}_1 / c_1\\ \\ \hat{v}_i =& BAv_{i-1}\\ \tilde{v}_i=&\hat{v}_i-\sum\limits_{j=1}^{i-1} \langle Av_k,\hat{v}_i\rangle v_k\\ v_i =& \tilde{v}_i/c_i\\ c_i =& \sqrt{\langle \tilde{v}_i,\tilde{v}_i\rangle} \end{align*}$

$\hat{v}_i$
$\tilde{v}_i$
$v_i$

ここで興味深いのは、いくつかのプロパティを取得できることです。あなたにとって本当に重要な2つは

$\textrm{span}\{v_i\}_{i=1}^m = \textrm{span}\{(BA)^{i-1}(Bb)\}_{i=1}^m$
$V^TAV = I$

$\hat{v}_i$ $BAv_{i-1}$ $v_1$ $Bb$ $\tilde{v}_i$ $B$ $A$

$Ax=b$ $x$ $\beta$

あ V β = b

$AV\beta = b$

V^{T} あ V β = V^{T} b

$V^TAV\beta = V^Tb$

V^{T} A V = I

$V^TAV=I$

β = V^{T} b

$\beta = V^Tb$

バツ = V V^{T} b 。

$x = VV^Tb.$

B

$B$

A

$A$

B

$B$

B

$B$

A

$A$

B

$B$

非対称何かを失うことはありますか？多分。通常は、CGで、私たちのような特性を持っているすべてのための。私はもう成り立たないと確信しています。また、我々は通常持っています $B$ $\langle Br_i,r_j\rangle = 0$ $i\neq j$ $\langle BAv_i,Av_j\rangle=0$ $|i-j|\geq 2$ $B$ 疑わしいと思います。

$B$ $B$

— wyer33
ソース

1

http://www.sciencedirect.com/science/article/pii/S1877050915010492「共役勾配法と最急降下法のための非対称前処理」を読む

— user25364
ソース

6

SciComp.SEへようこそ！これらはいつでも消えるか、この場合のようにペイウォールから跳ね返る可能性があるため、回答にはリンクだけが含まれるべきではありません。この論文の内容を要約していただけますか？それ以外の場合、これは回答というよりコメントです。

— クリスチャンクラソン2017