不正確な行検索のWolfe条件を理解する


12

Nocedal&WrightのBook Numerical Optimization(2006)によると、不正確な線探索のWolfeの条件は、下降方向場合、p

十分減少: 曲率条件:∇ F (X + α P )T P ≥ C 2 ∇ F (X )T P 用0 < C 1 < C 2 < 1f(x+αp)≤f(x)+c1αk∇f(x)Tp
∇f(x+αp)Tp≥c2∇f(x)Tp
0<c1<c2<1

私は新しいポイントでの関数値ことをどのように十分な減少条件の状態を見ることができるでの接線の下でなければならないのx。しかし、曲率条件が幾何学的に何を示しているのかはわかりません。また、なぜc 1 < c 2の関係を課さなければならないのですか?これは幾何学的に何を達成しますか?x+αpxc1<c2

回答:


12

曲率の条件は、基本的にこれは言う:私達はことを知ってい(ので、pは下降方向です)。したがって、方向pでは、下り坂になります。今、私たちはすなわち、最小のためのポイントを探している∇ F = 0を。私たちはステップの長受け入れることを望んでいないことを意味し、X + α pは、方向の勾配P、すなわち、∇ F (X + α P )⋅ P∇f(x)⋅p<0pp∇f=0x+αpp∇f(x+αp)⋅pxの場合と同様に負のままです。むしろ、勾配が負または正である場所で停止する必要があります。

|∇f(x+αp)⋅p|≤c2|∇f(x)⋅p|

c1<c2


だから、どんな滑らかな機能でも f 選択、設定 c2<c1十分な減少または曲率条件のいずれかが満たされない結果になりますか?
— ポール

1
いいえ、その逆です。選んだらc2<c1 それから機能があります f(バツ)降下方向を持っているにもかかわらず、2つの条件のいずれかが満たされない場合。このような場合、行検索ではステップ長が見つかりません。
— ウルフギャングバンガース
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.