メタアルゴリズムとは何ですか？

私は現在、乗法的重み更新メタアルゴリズムに関する調査論文を読んでいます。それらが「メタアルゴリズム」によって何を意味するのか私にはよくわかりません。それは単に、さまざまな目的に使用できる一般的なアルゴリズムですか？

この用語の正確な定義は見つかりませんでしたが、機械学習におけるブースティングなどのメタアルゴリズムの例を見つけました。

それを「アルゴリズム的手法」と解釈します。これは、多くの問題を解決するために使用できる一般的なフレームワークです。

そのフレーズの意味をあまり気にしないでください。それは受け入れられた定義を持つものではなく、その調査紙から価値を得るためにそれを理解する必要はありません。それは単なる言い回しです。代わりに、調査論文のアイデアと技術的な結果の理解に焦点を当てます。

「メタアルゴリズム」という用語は、学習理論の文脈でかなり広く受け入れられている意味を持っています。これは、乗法的重みの起源である研究分野です。

具体的には、メタ理論は、学習理論の文脈では、一連のその他の（通常は必ずしもメタではないが）「アルゴリズム」（一定の出力と同じくらい馬鹿かもしれない）をどのように取るかを決定するアルゴリズムです。たとえば）、多くの場合、コンポーネントアルゴリズムの出力を結合または重み付けすることにより、それらから新しいアルゴリズムを構築します。（ただし、これを正規の定義と見なさないでください。）通常、これらのコンポーネントアルゴリズムは、入力を受け取り、出力を生成するブラックボックスと見なされ、内部の仕組みは非表示/無関係です。

メタアルゴリズムの例はいくつかあります。参照されている乗法加重アルゴリズムはその一例です。特に単純な例は、バイナリ分類器の集合に対する過半数の投票です。バイナリ分類アルゴリズムの束があり、適切なものを選択する方法がわからないとします。あなたはそれらすべてを計算し、彼らに投票させることができます。この場合の投票はメタアルゴリズムです。もちろん、これはうまく機能しない可能性があり、重み付け投票のようなものを実行したい場合があります。この場合、重み付けは観察されたパフォーマンスに何らかの形で対応します。

現時点で考えられるメタアルゴリズムのほんの一部の例：

• 乗法的重み
• 加重多数
• ブースティング
• 袋詰め
• アンサンブル平均、投票
• "リーダーに従う"

いつものように、メタではなくメタ間の境界を曖昧にする例を見つけることができます。たとえば、K最近傍は、コンポーネントアルゴリズムの重み付き投票/平均化と見なすことができます。この場合、すべての潜在的な近傍（つまり、データセット内のラベル付きポイント）は、一定の出力を持つ独自のコンポーネントアルゴリズムであり、重み付けは次の関数です。アルゴリズム入力からの距離。