回答:
グリッド検索は、最適とは言えないハイパーパラメーター設定の調査に多くの時間を費やすため、低速です。より良い解決策は、勾配情報の計算を必要とせず、実装が簡単なNelder-Meadシンプレックスアルゴリズムです(Wikipediaページに十分な情報があるはずです)。WekaツールボックスにいくつかのJavaコードが含まれている可能性もありますが、私はMATLABで作業しており、Wekaについては詳しく調べていません。
SMOは、ハイパーパラメーターではなく、モデルパラメーターを見つけるためのアルゴリズムです。
Nelder-Meadシンプレックス法には、単純なグリッド検索と同じ数の関数評価が含まれます。通常、エラーサーフェスは、最適なパラメータ値に十分近いほど滑らかであり、粗いグリッド検索に続いて、より小さな領域でより細かいグリッド検索で十分です。
Cとガンマの勾配ベースの最適化に関心がある場合は、半径マージンの境界を最適化したり、検証セットのエラー率を最適化したりする方法があります。目的関数の勾配の計算には1つのSVMトレインのようなものが含まれますが、単純な勾配降下には数十回の反復しか含まれない場合があります。(記事とMatlabの実装については、http://olivier.chapelle.cc/ams/を参照してください。)
ここにあなたの質問に関連するアレックス・スモラのブログのエントリーがあります
ここに引用があります:
[...]データセットからランダムに1000ペア(x、x ')を選び、そのペアすべての距離を計算し、中央値、0.1と0.9の分位数をとります。ここで、λを選択して、これら3つの数値のいずれかを逆にします。交差検証を少し行うことで、3つのうちどれが最適かを判断できます。ほとんどの場合、これ以上検索する必要はありません。