不正確な行検索のWolfe条件を理解する

Nocedal＆WrightのBook Numerical Optimization（2006）によると、不正確な線探索のWolfeの条件は、下降方向場合、 $p$

十分減少：曲率条件：用 $f(x+\alpha p)\le f(x)+c_1\alpha_k\nabla f(x)^T p$
$\nabla f(x+\alpha p)^Tp\ge c_2 \nabla f(x)^T p$
$0<c_1<c_2<1$

私は新しいポイントでの関数値ことをどのように十分な減少条件の状態を見ることができるでの接線の下でなければならない。しかし、曲率条件が幾何学的に何を示しているのかはわかりません。また、なぜ関係を課さなければならないのですか？これは幾何学的に何を達成しますか？ $x+\alpha p$ $x$ $c_1<c_2$

optimization

— ポール
ソース

曲率の条件は、基本的にこれは言う：私達はことを知ってい（ので下降方向です）。したがって、方向では、下り坂になります。今、私たちはすなわち、最小のためのポイントを探している。私たちはステップの長受け入れることを望んでいないことを意味し、方向の勾配、すなわち、 $\nabla f(x)\cdot p < 0$ $p$ $p$ $\nabla f=0$ $x+\alpha p$ $p$ $\nabla f(x+\alpha p) \cdot p$ xの場合と同様に負のままです。むしろ、勾配が負または正である場所で停止する必要があります。

| \nabla f (x + α p) \cdot p | \leq c_{2} | \nabla f (x) \cdot p |

$|\nabla f(x+\alpha p) \cdot p| \le c_2 |\nabla f(x) \cdot p|$

$c_1<c_2$

— ウルフギャング・バンガース
ソース

だから、どんな滑らかな機能でも

f

$f$ 選択、設定

c_{2} < c_{1}

$c_2<c_1$ 十分な減少または曲率条件のいずれかが満たされない結果になりますか？

— ポール

いいえ、その逆です。選んだら

c_{2} < c_{1}

$c_2<c_1$ それから機能があります

f (x)

$f(x)$ 降下方向を持っているにもかかわらず、2つの条件のいずれかが満たされない場合。このような場合、行検索ではステップ長が見つかりません。

— ウルフギャングバンガース