タグ付けされた質問 「conjugate-gradient」

最適化のためにBFGSと共役勾配を選択する際に考慮すべきことは何ですか？これらの変数に適合させようとしている関数は指数関数です。ただし、実際の目的関数には、とりわけ統合が含まれており、それが役立つ場合は非常にコストがかかります。

25 optimization  conjugate-gradient 

私が理解しているように、線形連立方程式を解くための反復法には2つの主要なカテゴリがあります。 定常法（Jacobi、Gauss-Seidel、SOR、Multigrid） クリロフ部分空間法（共役勾配法、GMRESなど） ほとんどの定常手法は、エラーのフーリエモードを繰り返し緩和（平滑化）することで機能することを理解しています。私が理解しているように、共役勾配法（クリロフ部分空間法）は、番目の残差に適用される行列のべきから最適な探索方向のセットを「ステップ実行」することによって機能します。この原理は、すべてのクリロフ部分空間法に共通ですか？そうでない場合、クリロフ部分空間法の収束の背後にある原則を一般的にどのように特徴付けますか？nnn

24 linear-algebra  convergence  krylov-method  conjugate-gradient 

共役勾配がGMRESメソッドよりもはるかに優れている場合に興味があります。 一般に、CGは多くのSPD（対称正定値）の場合に望ましい選択であり、必要なストレージが少なく、CGの収束率の理論的限界がそのGMRESの2倍であるためです。そのような率が実際に観察される問題はありますか？GMRESが同じ数のspmv（スパースマトリックスベクトル乗算）でCGより優れているか、CGに匹敵する場合の特性はありますか。

17 linear-solver  conjugate-gradient  gmres 

共役勾配（CG）メソッドを使用して、巨大なスパース正定行列Aのを解いています。解析中に生成された情報を使用して、Aの行列式を計算することは可能ですか？A x = bAx=bAx=bAAAAAA

11 linear-algebra  optimization  krylov-method  conjugate-gradient 

プロジェクトの場合、これら2つの方法を実装し、さまざまな機能でのパフォーマンスを比較する必要があります。 共役勾配法は、の線形方程式系を解くことを意図しているように見えます Ax=bAx=b A\mathbf{x} = \mathbf{b} ここで、は対称で正定で実数のn行n列の行列です。AAA 一方、勾配降下法について読むと、Rosenbrock関数の例が表示されます。 f(x1,x2)=(1−x1)2+100(x2−x21)2f(x1,x2)=(1−x1)2+100(x2−x12)2 f(x_1,x_2) = (1-x_1)^2+100(x_2-x_1^2)^2 見てのとおり、共役勾配法ではこれを解決できません。それとも私は何かを逃していますか？

11 optimization  conjugate-gradient 

してみましょう、対称正定。ベクトルにAを乗算するのにm単位の作業が必要だとします。ウェル上にCGアルゴリズムを実行することが知られているAの条件数とκが必要O（Mは√A∈Rn×nA∈Rn×nA\in \mathbb{R}^{n\times n}mmmAAAAAAκκ\kappa、作業単位。O(mκ−−√）O(mκ)\mathcal{O} (m\sqrt{\kappa}) もちろん、ステートメントであるため、これは上限です。また、CGアルゴリズムは、ラッキーな初期推測で常にゼロステップで終了できます。OO\mathcal{O} 私たちは、RHS及び必要になります初期（不運な）推測が存在する場合は知っていますステップ？別の言い方をすれば、CGの最悪の場合の作業の複雑さは、実際にあるΘ（M √Θ（ κ−−√）Θ(κ)\mathcal{\Theta}(\sqrt{\kappa})？Θ （M κ−−√）Θ(mκ)\Theta( m \sqrt{\kappa}) この質問は、プレコンディショナーの利点（低い）がコスト（mが高い）を上回るかどうかを判断しようとしたときに発生します。現在、おもちゃの問題を扱っており、コンパイルされた言語で何かを実装する前に、より良いアイデアを知りたいと思っています。κκ\kappaメートルmm

9 conjugate-gradient 

値に依存する目的関数があります。ここで、はPDEの解です。PDEの初期条件である勾配降下によってを最適化しています。つまり、を更新し、PDEを統合して残差を計算する必要があります。つまり、勾配降下ステップサイズ（と呼びます）のラインサーチを実行する場合、すべての潜在的な値について、PDEをもう一度統合する必要があります。EEEϕ(x,t=1.0)ϕ(x,t=1.0)\phi(x, t = 1.0)ϕ(x,t)ϕ(x,t)\phi(x, t)EEEϕ(x,t=0.0)ϕ(x,t=0.0)\phi(x, t = 0.0)ϕ(x,t=0.0)ϕ(x,t=0.0)\phi(x, t = 0.0)αα\alphaαα\alpha 私の場合、それは法外に高価になるでしょう。適応型勾配降下ステップサイズの別のオプションはありますか？ 私はここで数学的に原理的なスキームを探しているだけではありません（もちろん、何かが存在する場合はそれよりも優れています）が、一般に静的ステップサイズよりも優れているものであれば何でも満足します。 ありがとう！

9 optimization  pde  conjugate-gradient 

私が解決したいKは私の剛性行列であるが。ただし、一部の制約が欠落している可能性があるため、（固有値がゼロのため）剛体の動きがシステムにまだ残っている可能性があります。線形システムを解くためにCGを使用しているため、これは受け入れられません。CGが準肯定的な問題に収束しない場合があります（ただし、収束する場合もあります）。Ku=bKu=bK u = bKKK 実際、私はの形のペナルティを追加しているという意味で、ペナルティドディスプレイスメントアプローチを使用しています。| u | | 2弾性エネルギーに。したがって、エネルギーはW（u ）を読み取ります ：= 1α||u||2α||u||2 \alpha ||u||^2α剛性行列のいくつかの対角エントリに比例するとしました。しかし、実際には、これは私がいつか持ちたいいくつかの変形モードを弱める効果があります。W(u):=12uT(K+αI)u−btuW(u):=12uT(K+αI)u−btu\begin{equation} \mathcal W(u) := \frac{1}{2} u^T (K + \alpha I) u - b^t u \end{equation}αα\alpha 私の質問のいくつかは： a）元のシステムを変換できますか？そのため、特異性と正定性がないようにする必要があります（座標変換や合同変換など）。私の考えは、そのような変換を使用して、変換された問題にCGを使用することです b）これらの特異点を処理する標準的な方法はありますか？ どうもありがとうございました ！ 敬具、 トム

9 finite-element  iterative-method  conjugate-gradient 

これら2つの方法の違いは何ですか？ある方法で解決できる問題を、別の方法で解決できるでしょうか。それらの両方または1つをOpenMPやMPIと並列化できますか？

9 mpi  conjugate-gradient 

で、この前スレッド対称予備調整組み合わせる以下乗法方法及びP 2対称システムのためのA 、X = Bが示唆された： P - 1つのコンボ：= P - 1 1 + P - 1 2（I - A P - 1 1）= P − 1 1 + P − 1 2 − P −P1P1P_1P2P2P_2あx = bあバツ=bAx=bP− 1コンボ：==P− 11+ P− 12（私− A P− 11）P− 11+ P− 12− P− 12A P− …

8 preconditioning  conjugate-gradient  krylov-method  symmetry 

シミュレーションの結果が実験構造にできる限り近づくように、分子フレームワークのいくつかの力場パラメータを最適化しようとしています。 以前は、本質的にランダムにパラメーター空間をサンプリングし、最適に機能する組み合わせを選択し、変異パラメーターのセットを作成し、目的の関数に最適なパラメーターが得られるまでこのプロセスを繰り返す遺伝的アルゴリズムを作成しました。また、アルゴリズム自体のいくつかの最適化も実行します。ここで、変異した値の分布は、より高速な収束を優先するように最適化されます。 私のアドバイザーは遺伝的アルゴリズムについて聞いたことがなく、彼が推奨する方法、つまり共役勾配法とシンプレックスアルゴリズムについて聞いたことがありません。 私の状況では、目的関数は実験的な場所からのすべての原子の偏差の関数です（つまり、構造最適化です）。システムは4-10K原子です。CGMやシンプレックスアルゴリズムの学習に時間を費やす価値はありますか？3つのうち、この状況に最適なのはどれですか。

8 optimization  molecular-dynamics  conjugate-gradient