遺伝的アルゴリズムのパラメーターの選択

特定のシステムをモデル化するために、遺伝的アルゴリズムに適切な数のパラメーターをどのように選択できますか？

たとえば、自動車の生産を最適化したいとし、1,000人の異なる従業員ごとに、さまざまなタスクで時間効率を1,000回測定したとします。つまり、1,000,000個のデータポイントがあります。これらのほとんどは弱いあなたの工場の全体的な効率と相関する可能性が高いが、そうではありませんので、あなたは、彼らは統計的信頼度とは無関係であると言うことができるという弱いです。1,000,000以上の自由度がなくなり、収束が非常に遅くなるか、まったく収束しないように、GAの入力を選択するにはどうすればよいですか？

具体的には、機能を事前選択または選択的に削除するために使用できるアルゴリズムは何ですか？

私は、このシナリオで自分自身を使用している一つのアプローチは、私のような両親かもしれないので、パラメータの選択自体を進化させている{a,b,c}、{b,d,e,q,x,y,z}などを。次に、子を変更して機能を追加または削除します。これは、数十の機能に適しています。しかし、問題は、自由度が多数あると効率が悪いことです。その場合は、10^n組み合わせ（上記の例では）を調べています10^1,000,000。これにより、何らかの有用なパフォーマンスを得るには、機能の事前フィルタリングが重要になります。

まず第一に、おそらくこれを解決するために回帰または古典的なMLメソッドを使用するため、この例はあまり適していないと思われます。次に、特徴選択 （Kira、Rendell、1992）または属性選択 （Hall、Holmes、2003）または変数選択 （Guyon、Elisseeff、2003）または変数サブセット選択 （Stecking、Schebesch、2005）の一般的な問題を参照しています。または特徴抽出 （Hillion、Masson、Roux、1988）または次元削減 （Roweis、Saul、200）または状態抽象化 （Amarel、1968）。この問題は、遺伝的アルゴリズムだけでなく、高次元のデータを扱うときのほとんどすべての機械学習技術に関連しています。

ここでは3つのケースを区別できます。状態の抽象化と呼ばれるこの問題の最後のインスタンスは、通常、プロセスモデリングに関連しています（これは、GAコンテキストではなく、例に適しています）。最初の3つ、つまり、機能選択、属性選択、または変数選択は、質問を文字どおりに取る場合に最も関連性があるようです。このコンテキストでの一般的な解決策は、このためのmRMRアプローチ（Peng、Long、Ding、2005）。私の経験では、連続データでは常にうまく機能するとは限りませんが、相互情報は、相関などの他の係数で置き換えることができます。別の可能なアプローチは、交差検証を使用することです（Picard、Cook、1984）です。それぞれ異なる機能を使用する複数のモデルを持つことができ、交差検証手法を使用したモデル選択により、最適なモデルを選択します。これにより、特定のタスクに最適な機能に関する情報が得られます。

特徴抽出と次元削減例は初期機能するだけでなく、その組み合わせを選択するだけでなく、許可します。このケースのよく知られたソリューションの例は、PCAアルゴリズム（ピアソン、1901）です。。これは、説明された分散の観点から、入力フィーチャの線形結合であるフィーチャのセットを生成します。

また、特徴抽出タスクを単独で処理する多くのモデルがあることにも注意してください。いくつかの例は次のとおりです。GrowingNeural Gas Network （Fritzke、1995）、LASSO （Tibshirani、2011）、RFE SVM （Zeng、Chen、Tao、2009）、Decision Trees （Quinlan、1986）。

参照：

• キラケンジとラリー・A・レンデル。1992.特徴選択への実用的なアプローチ。機械学習に関する第9回国際ワークショップの議事録（ML92）、Derek SleemanおよびPeter Edwards（編）。Morgan Kaufmann Publishers Inc.、米国カリフォルニア州サンフランシスコ、249-256。

• マサチューセッツ州ホール; Holmes、G.、「離散クラスデータマイニングのための属性選択手法のベンチマーク」、知識とデータエンジニアリング、IEEE Transactions on、vol.15、no.6、pp.1437、1447、11月から12月。2003年

• イザベル・ギヨンとアンドレ・エリセフ。2003.変数と機能の選択の紹介。J.マッハ 学ぶ。解像度 3（2003年3月）、1157-1182。

• ラルフ・ステッキング、クラウス・B・シェベッシュ。2005.サポートベクターマシンを使用したクレジットスコアリングのための可変サブセット選択、Operations Research Proceedings 2005、Springer Berlin Heidelberg、（2005）、pp.251-256

• ヒリオン、A。マッソン、P。Roux、C.、「線形特徴抽出へのノンパラメトリックアプローチ、バイナリ合成テクスチャの分類への応用」、Pattern Recognition、1988。、第9回国際会議、vol。、no。、pp.1036、1039 vol.2、14 1988年11月17日

• 局所的な線形埋め込みによる非線形次元削減。Sam Roweis＆Lawrence Saul。Science、v.290 no.5500、Dec.22、2000。pp.2323--2326。

• Amarel、S.（1968）。行動についての推論の問題の表現について、機械知能、（3）、131--171

• Peng、H .; フルミ・ロング; Ding、C。、「max-dependency、max-relevance、およびmin-redundancyの相互情報量基準に基づく機能選択」、Pattern Analysis and Machine Intelligence、IEEE Transactions on、vol.27、no.8、pp.1226、 1238、2005年8月

• Richard R. PicardおよびR. Dennis Cook、ジャーナルオブアメリカ統計協会Vol。79、No.387（1984年9月）、575-583ページ

• 空間の哲学マガジン、Vol。2、No。6（1901）、ページ559-572（K. Pearson著）

• 成長するニューラルガスネットワークがトポロジーを学習する、Bernd Fritzke、会議：ニューラル情報処理システム-NIPS、pp。625-632、1994

• なげなわによる回帰の縮小と選択：振り返り、Robert Tibshirani、Journal of the Royal Statistical Society Series B、2011、vol。73、発行3、273-282ページ

• Xiangyan Zeng; Yen-wei Chen; Caixia Tao; ヴァンアルフェン、D。、「手書き数字認識のための再帰的特徴除去を使用した特徴選択」、インテリジェント情報ハイディングおよびマルチメディア信号処理、2009年。IIH-MSP'09。第5回国際会議、vol。、no。、pp.1205、1208、2009年9月12〜14日

• JRクインラン。1986.決定木の導入。マッハ。学ぶ。1、1（1986年3月）、81-106。

私はこれまでこれまでに行ったことはなく、明らかにそのデータにアクセスすることはできませんが、これを行うための潜在的に良い方法は、クラスタリングを使用することです。各従業員について、n次元のベクトルがあり、各次元は異なるタスクに対応しています。次に、クラスタリングを使用して、「類似した」従業員をグループ化できます。ただし、これはデータにのみ依存します。つまり、クラスタリングによって1000人の従業員しか与えられない場合、実際にはそれほど関連性のない従業員のグループが生成される可能性があります。そのため、人口は減少しますが、情報が失われる可能性があります。