最適化のヒューリスティック

金曜日なので、今度はCWの質問です。最適化の問題で広く使用されているヒューリスティックを探しています。スコープをより「理論に適した」ヒューリスティックに制限するために、ここにルールがあります（任意のものもあれば、そうでないものもあります）。

• 多数のパラメータがなく、具体的な実行時間（反復ごとの可能性があります）を備えた、明確に定義されたメソッドである必要があります
• それに関連するいくつかの既知の理論的結果（収束率、存在する場合は近似境界、定常特性など）が必要です。
• それは幅広い適用性と、それが選択した方法またはいくつかの方法のいずれかである少なくとも1つのフラグシップアプリケーションを持つ必要があります。
• それは自然に触発されるべきではありません（これは軽薄な異論のようですが、私は遺伝的アルゴリズム、アリのコロニーの最適化などを除外しようとしています）。

回答は、理想的には次の形式にする必要があります。ここに例を示します。

名前：交互最適化

目標：（一般に非凸）関数f （x 、y ）を最小化する$f(x,y)$

条件：関連する関数およびh （y ）= 最小x f （x 、y ）は凸$g(x) = \min_y f(x,y)$$h(y) = \min_x f(x,y)$

アルゴリズム：反復はx i、y iで始まります。$i^{\text{th}}$$x_i, y_i$

1. $x_{i+1} \leftarrow \arg \min_x f(x, y_i)$
2. $y_{i+1} \leftarrow \arg\min_y f(x_{i+1}, y)$

$k$

$k$

psあなたの答えは、私が計画しているアルゴリズムセミナーの講義として終わるかもしれません:)

$\sum w(\theta)F(\theta)^2$$\theta\in R^n$$F(\theta) \in R^m$$w(\theta)\in R$


$L_p$