検索方法と最適化方法の意味

「検索手法」と「最適化手法」の違いや関係はどうなっているのでしょうか？

特に最適化問題を解決する場合はどうでしょうか？検索方法は最適化問題を解決するためだけでなく、非最適化問題も解決すると思うので、私は最適化問題の解決のコンテキストを強調します。

私の混乱は以下の事実から来ています：

1. ローカル検索、確率的検索など、「xxx検索」という名前の最適化方法がいくつかあります。 「検索」は実際にはどういう意味ですか？「検索」ではない最適化手法はあるのでしょうか？
2. また、この本のSpallによる確率的検索と最適化の概要でも、タイトルと内容の「検索」と「最適化」の違いがよくわかりません。同じ意味で「検索」と「最適化」を区別する必要があるのはなぜですか。または、「検索」は最適化タスク/問題を解決する方法を意味するのではなく、「最適化」は最適化方法ではなく確率論的最適化タスク/問題を意味しますか？
3. また、検索と最適化の無料ランチは、検索と最適化を再び区別するものではありません。

よろしくお願いします！

search =すべての制約を満たす実行可能な点を見つけようとします（最適化のために、これまでに見つかった点よりも良い点）。通常は関数値のみを使用します。

ローカル検索：隣接するポイント間を検索することにより、実行可能なポイント（または実行可能性メジャーまでの距離）を改善します。

確率的検索：試行点を選択するための非決定的基準を使用した検索。

これは、最適化基準が指定されているかどうかとは無関係です。特に、「検索と最適化に無料ランチはありません」では、検索は実現可能性の検索を指し、最適化は最適性の検索を指します。

一般的な意味では、最適化問題では、検索と最適化は同等です。ただし、それらには、用語の使用法を変える意味合いがあります。

最適化方法=最適化問題を解決する方法。多くの場合（必ずというわけではありません）、勾配（または部分勾配またはヘッセ行列）情報を使用します。

勾配を使用できることで、最適化方法の効率が大幅に向上します。これに関連して（つまり、勾配が既知の場合）、「ライン検索」の組み合わせでのみ用語検索を使用します。これは、選択された方向に沿ってより良いポイントを検索することを意味します。

$x^\ast$$g(x)$$g(x^\ast)=0$$x^\ast$$f(x) \rightarrow \textrm{min!}$$f$$g(x)=\nabla f(x)$