機械学習モデルをトレーニングするのに十分な量のデータはありますか？

私はしばらくの間機械学習とバイオインフォマティクスに取り組んできましたが、今日、データマイニングの主な一般的な問題について同僚と会話しました。

私の同僚（機械学習のエキスパート）は、彼の意見では、機械学習の間違いなく最も重要な実用的な側面は、機械学習モデルをトレーニングするのに十分なデータを収集したかどうかを理解する方法だと述べました。

私はこの側面をそれほど重視していなかったので、この発言は私を驚かせました...

その後、インターネットで詳細情報を探したところ、FastML.comのレポートで、この投稿は経験則として、機能の約10倍のデータインスタンスが必要であることがわかりました。

2つの質問：

1-この問題は機械学習に特に関連していますか？

2 - 10倍の作業を支配ですか？このテーマに関連する他のソースはありますか？

10倍のルールは私にとっては経験則のように見えますが、十分なトレーニングデータをフィードしないと、機械学習アルゴリズムのパフォーマンスが低下する可能性があるのは事実です。

十分なトレーニングデータがあるかどうかを判断する実用的でデータ主導の方法は、次の例のような学習曲線をプロットすることです。

学習曲線は、トレーニングセットのサイズを大きくするにつれて、トレーニングエラーとテストエラーの変化を表しています。

• データセットのサイズを大きくすると、トレーニングセットの複雑性/変動性の増加を説明するモデルを適合させることが難しくなるため、トレーニングエラーは増加します。
• データセットのサイズを大きくすると、モデルはより多くの情報からより一般化できるため、テストエラーは減少します。

プロットの右端にあるように、プロットの2本の線は到達し、漸近する傾向があります。したがって、最終的には、データセットのサイズを増やしてもトレーニング済みモデルに影響を与えないポイントに到達します。

テストエラーとトレーニングエラーの漸近線の間の距離は、モデルの過剰適合を表しています。しかし、より重要なのは、このプロットがより多くのデータが必要かどうかを示していることです。基本的に、トレーニングデータのより大きなサブセットのテストおよびトレーニングエラーを表し、線が漸近線に達していないようであれば、より多くのデータを収集し続ける必要があります。

1. はい、モデルに適合する能力はデータの量に依存するため、問題は確かに関連しています。より重要なのは、予測子の品質に依存します。
2. 10倍のルールは経験則である可能性があります（他にもたくさんあります）が、実際には機能の予測ユーティリティに依存します。たとえば、虹彩データセットはかなり小さいですが、簡単に解決できます。これは、特徴がターゲットを適切に分離するためです。逆に、1,000万の例があり、機能が弱い場合は適合しない可能性があります。