回答:
ガウスプロセス分類(期待値伝播を使用)は、おそらく機械学習の最先端技術です。RasmussenとWilliamsによる優れた本(無料でダウンロード可能)があり、このWebサイトの MATLAB実装は非常に優れています。その他のソフトウェア、書籍、論文などはこちら。ただし、実際には、KLRはほとんどの問題でおそらく同じように機能します。カーネルと正則化パラメーターを選択するのは大きな困難です。これは、相互検証によって行うのが最善ですが、1対1の相互検証は近似できます。非常に効率的に、Cawley and Talbot(2008)を参照してください。
ロジスティック回帰のカーネルは非パラメトリックなものであることを知っていると思いますので、まず最初にその制限があります。
Rパッケージに関して私が知っていてかなりうまく機能するのはnpです:混合データ型のノンパラメトリックカーネル平滑化メソッド
このパッケージは、連続した、順序付けられていない、順序付けされた因子データタイプの混合をシームレスに処理する、さまざまなノンパラメトリック(およびセミパラメトリック)カーネルメソッドを提供します。
最先端のカーネルについては、このペーパーで説明されているものを2009年から試すことをお勧めします。よく読んで、実際に最も適したものを選択してください。