CARTで複雑度パラメーターを選択する

CARTモデルを作成するrpart（）ルーチンで、ツリーをプルーニングする複雑度パラメーターを指定します。複雑度パラメーターを選択するための2つの異なる推奨事項を見てきました。

1. 可能な最小相互検証エラーに関連付けられた複雑度パラメーターを選択します。この方法は、Quick-RおよびHSAURで推奨されています。

2. 推定交差検定誤差が、最小可能交差検定誤差のSE内にある最大の複雑度パラメーターを選択します。これは、このプロットを参照して、「プルーニング用のcpの適切な選択は、平均が水平線より下にある最も左の値であることが多い」というパッケージドキュメントの解釈です。

cpの2つの選択により、データセット内でまったく異なるツリーが生成されます。

最初の方法は常に、より複雑な、潜在的にオーバーフィットしたツリーを生成するようです。他の長所、短所、文献の推奨事項などはありますか。どの方法を使用するかを決める際に考慮する必要がありますか？特定のモデリング問題が役立つ場合は、それに関する詳細情報を提供できますが、この質問を他の人に関連するように十分に広くしようとしています。

実際には、両方のアプローチが取られているのを見てきましたが、一般的に、どちらの方法でも結果に大きな違いはないと思われます。

そうは言っても、Hastieらは統計的学習の要素の「1つの標準誤差」規則を推奨しており、私は彼らの判断を信頼する傾向があります（私のバージョンではセクション7.10、ページ244）。関連する引用は次のとおりです。

多くの場合、「1つの標準エラー」ルールが交差検証で使用されます。このルールでは、エラーが最良のモデルのエラーよりも1つの標準エラーだけ多い最も節約的なモデルを選択します。

1つの標準エラールールに従う理由についてのあなたの直感は正しいです-データをオーバーフィットするモデルを選択することを避けるためにそうするでしょう。

最初に引数minsplit=0とcp=0（複雑さのパラメーター）を使用して開始し、次に関数plotcp(T.max)を使用して次printcp(T.max)の値を選択する必要があります。cp対応する最小相対誤差のし、関数によってツリーを剪定する必要があります。prune.rpart(T.max, cp=....)

これにより、過剰に楽観的になりがちな最適な分類ツリーが得られます。