単純ベイズ分類器は、分類問題の一般的な選択肢です。これには、次のような多くの理由があります。
しかし、それらは「素朴」です-つまり、特徴が独立していると仮定します-これは、最大エントロピー分類器（計算が遅い）などの他の分類器とは対照的です。
独立性の仮定は通常仮定することができず、スパムフィルターの例を含む多くの（ほとんど？）場合、それは単に間違っています。
では、なぜ機能が互いに独立していない場合でも、Naive Bayes Classifierはそのようなアプリケーションで非常に優れたパフォーマンスを発揮するのでしょうか？
回答:
この論文は、ベイズが機能が独立しているときだけでなく、機能間の依存関係が機能間で類似しているときもベイズが良いことを証明しているようです（数学には従えません）：
この論文では、単純ベイズの優れた分類性能に関する新しい説明を提案します。基本的に、依存性分布を示します。すなわち、ノードのローカル依存関係が各クラスで均等または不均等に分散する方法、およびすべてのノードのローカル依存関係が一貫して（特定の分類をサポートする）または一貫性なく（互いにキャンセルする）動作する方法が重要な役割を果たします。したがって、属性間の依存関係がどれほど強力であっても、依存関係がクラス内で均等に分散している場合、または依存関係が互いに打ち消し合う場合、ナイーブベイズは依然として最適です。
ほとんどの機械学習の問題は簡単です！
たとえば、John Langfordのブログを参照してください。彼が本当に言っているのは、MLが問題を簡単にしていることであり、これは研究者にとって、方法を広範囲の単純な問題に適用するか、より困難な問題を攻撃するかという点で問題を提示します。しかし、副産物は、多くの問題に対してデータが線形分離可能（または少なくともほぼ）であるということです。その場合、線形分類器はすべてうまく機能します！元のスパムフィルターペーパーの作成者がNaive Bayesを使用することを選択したのは、偶然ですが、パーセプトロン、SVM、フィッシャー判別分析、ロジスティック回帰、AdaBoost、またはおそらく同様に機能する他のほとんどのものを使用していたからです。
アルゴリズムのコーディングは比較的簡単であるという事実が役立ちます。たとえば、SVMをコーディングするには、QPソルバーが必要です。または、簡単なタスクではないSMOアルゴリズムをコーディングする必要があります。もちろん、libsvmをダウンロードできますが、初期にはそのオプションは利用できませんでした。ただし、他にも多くの単純なアルゴリズム（上記のパーセプトロンを含む）があり、それらはコーディングが簡単です（また、質問で述べたように増分更新が可能です）。
もちろん、非線形問題を処理するには、非線形問題に対処できる方法が必要です。ただし、カーネルメソッドを使用する場合、これでも比較的簡単な作業になります。質問は、「どの分類器を使用すべきか」ではなく、「データに対して効果的なカーネル関数をどのように設計するか」になります。
セグメンテーション分類ツールでNaive Bayesian Classifiersを広範囲に使用してきた私の経験は、すべての予測変数が利用可能な場合、NBCが線形判別およびCART / CHAIDに匹敵する精度を示す公開論文と一致しています。
（正しい解を最も可能性の高いものとして予測する際の「ヒット率」とキャリブレーションの正確さにより、75％のメンバーシップの推定は、70％から80％のケースで正しいことを意味します。）
私の2セントは、NBCが非常にうまく機能していることです：
そして、それはすべての変数が観察されるときです。NBCが実際にパックから引き離されるのは、1つ以上の予測変数が欠落しているか、または観測されない場合に、優雅に劣化するからです。その場合、CART / CHAIDおよび線形判別分析は完全に停止します。