数値最適化手法のテスト：Rosenbrockと実際のテスト関数

導関数なしのオプティマイザには、主に2種類のテスト関数があるようです。

• Rosenbrock関数 ff。のようなワンライナー 、開始点付き
• 補間器を使用した実データ点のセット

10d Rosenbrockを実際の10d問題と比較することは可能ですか？
さまざまな方法で比較することができます。局所的な最小値の構造を記述する
か、Rosenbrockおよびいくつかの実際の問題に対してオプティマイザABCを実行します。
しかし、これらは両方とも難しいようです。

（たぶん、理論家と実験者はまったく異なる2つの文化なので、キメラを求めていますか？）

こちらもご覧ください：

• scicomp.SEの質問：アルゴリズム/ルーチンをテストするための優れたデータセット/テスト問題はどこで入手できますか？
• フッカー、「ヒューリスティックのテスト：すべてが間違っています」は痛烈です：「競争に重点を置いていることは、どのアルゴリズムが優れているが理由ではないことを教えてくれます。」

たとえば、Ackleyでは、最上行にSBPLXが最適であり、PRAXISがひどいことを示しています。Schwefelでは、右下のパネルにSBPLXが5番目のランダムな開始点で最小値を見つけていることが示されています。

全体として、BOBYQAは1で最高であり、PRAXISは5で、SBPLX（〜Nelder-Mead with restarts）は13のテスト機能のうち7つで、Powersumは最高です。YMMV！特に、ジョンソン氏は、「グローバル最適化では、関数値（ftol）またはパラメーター許容値（xtol）を使用しないことをお勧めします。」

結論：1頭の馬や1つのテスト機能にすべてのお金をかけないでください。

Rosenbrockのような単純な関数は、新しく記述されたアルゴリズムをデバッグおよび事前テストするために使用されます：それらは実装および実行が高速であり、標準の問題をうまく解決できない方法は実際の問題ではうまく機能しない可能性があります。

高価な関数に対する派生物のない方法の最近の徹底的な比較については、派生物のない最適化：アルゴリズムのレビューとソフトウェア実装の比較を参照してください。LMリオス、NV Sahinidis -グローバル最適化、2012年（も伴うWebページを参照してください：のDOI 10.1007 / s10898-012-9951-yのジャーナルhttp://archimedes.cheme.cmu.edu/?q=dfocompを）

Rosenbrock関数のような合成テストケースの利点は、比較できる既存の文献があることです。また、コミュニティでは、このようなテストケースで優れた方法がどのように動作するかという感覚があります。誰もが独自のテストケースを使用した場合、どのメソッドが機能し、どのメソッドが機能しないかについて合意するのははるかに困難です。

（この議論の終わりに取り組むことに異論がないことを望みます。私はここにいるので、私が違反したかどうか私に知らせてください！）

進化的アルゴリズムのテスト関数は、2、3年前よりもはるかに複雑になっています。これは、（最近の）進化的計算に関する2015年の会議のような会議でのコンテストで使用されているスイートで見ることができます。見る：

http://www.cec2015.org/

これらのテストスイートには、変数間のいくつかの非線形相互作用を持つ関数が含まれています。変数の数は1000にもなる可能性があり、近い将来に増加する可能性があります。

もう1つの非常に最近の革新は、「ブラックボックス最適化コンテスト」です。参照：http : //bbcomp.ini.rub.de/

アルゴリズムは、ポイントxの値f（x）を照会できますが、勾配情報を取得せず、特に目的関数の分析形式に関する仮定を行うことはできません。

ある意味では、これは「現実の問題」と呼ばれるものに近いかもしれませんが、組織化された客観的な設定です。

あなたは両方の長所を持つことができます。NISTには、予想される結果と不確実性を伴う、この10度の政治的条件を適合させるなど、最小化のための一連の問題があります。もちろん、これらの値が実際の最良の解決策であること、または他の極小値の存在と特性を証明することは、制御された数式よりも困難です。