キャレットを使用したモデルのスタック/アンサンブル

caretRを使用していくつかの異なる予測モデルをトレーニングすることがよくあります。すべてを同じクロス検証フォールドでトレーニングし、を使用してcaret::: createFolds、クロス検証エラーに基づいて最適なモデルを選択します。

ただし、いくつかのモデルからの予測の中央値は、独立したテストセットで最良の単一モデルを上回ることがよくあります。同じクロス検証フォールドでトレーニングされたキャレットモデルをスタック/アンサンブルするための関数を書くことを考えています。たとえば、各フォールドの各モデルから中央値予測を取得したり、「メタモデル」をトレーニングしたりします。

もちろん、これには外側の相互検証ループが必要になる場合があります。キャレットモデルをアセンブルするための既存のパッケージ/オープンソースコードを知っている人はいますか？

Max Kuhnが実際にキャレットモデルのアンサンブル用のパッケージの作業を開始したように見えますが、まだ終了する時間がありません。これはまさに私が探していたものです。プロジェクトがいつか完成することを願っています！

編集：これを行うために独自のパッケージを作成しました：caretEnsemble

探しているものは「モデルの組み立て」と呼ばれます。Rコードを使用した簡単な入門チュートリアルは、http：//viksalgorithms.blogspot.jp/2012/01/intro-to-ensemble-learning-in-r.htmlにあります。

あなたが何を探しているのかよくわかりませんが、これは役立つかもしれません：http : //www.jstatsoft.org/v28/i05/paper

キャレットで複数のモデルを使用する方法です。あなたが興味があるかもしれない部分は、pgのセクション5です。13。