ベイジアンネットワークがニューラルネットワークよりも優れているドメインはありますか？

ニューラルネットワークは、コンピュータービジョンタスクで最高の結果を得ます（MNIST、ILSVRC、Kaggle Galaxy Challengeを参照）。コンピュータービジョンの他のすべてのアプローチよりも優れているようです。しかし、他のタスクもあります：

• Kaggle分子活動チャレンジ
• 回帰：Kaggle Rain予測、2位
• 把握して持ち上げる2位も3位 -脳波記録から手の動きを特定する

ASR（自動音声認識）と機械翻訳についてはあまりよくわかりませんが、（リカレント）ニューラルネットワーク（他のアプローチよりも優れている）も聞いたことがあると思います。

現在、ベイジアンネットワークについて学んでいますが、これらのモデルは通常どのような場合に適用されるのでしょうか。だから私の質問は：

最先端技術がベイジアンネットワークまたは少なくとも非常に類似したモデルである挑戦/（Kaggle）競争はありますか？

（サイドノート：私も見てきた決定木、2、3、4、5、6、7、いくつかの最近のKaggleの挑戦で勝利を）

ベイジアンアプローチがよく使用される領域の1つは、予測システムの解釈可能性が必要な領域です。医師にニューラルネットを提供し、95％正確であると言いたくないでしょう。むしろ、メソッドが使用する決定プロセスと同様に、メソッドが行う仮定を説明する必要があります。

同様の領域は、ドメインに関する事前の強力な知識があり、それをシステムで使用したい場合です。

ベイジアンネットワークとニューラルネットワークは互いに排他的ではありません。実際、ベイジアンネットワークは、「ダイレクトグラフィカルモデル」の単なる別の用語です。これらは、目的関数ニューラルネットワークの設計に非常に役立ちます。ヤン・ルカンは、ここで、このうちを指摘している：https://plus.google.com/+YannLeCunPhD/posts/gWE7Jca3Zoq。

一例。

すでに優れた答え。

私が考えることができ、広範囲に取り組んでいる1つのドメインは、顧客分析ドメインです。

カスタマーサポート、マーケティングチーム、成長チームの両方に情報を提供し、警告するためには、お客様の動きと動機を理解し、予測する必要があります。

したがって、ここでは、ニューラルネットワークは解約予測などで非常に良い仕事をします。しかし、私はベイジアンネットワークスタイルを見つけて好みます。

1. 顧客には常にパターンがあります。彼らには常に行動する理由があります。そして、その理由は、私のチームが彼らのためにしたこと、または彼らが自分自身を学んだことです。そのため、ここではすべてに優先事項があります。実際、顧客が行う決定のほとんどを促進する理由は非常に重要です。
2. 顧客およびマーケティング/販売目標到達プロセスにおける成長チームによるすべての動きは、因果関係です。したがって、見込み客を顧客に変えるには、事前の知識が不可欠です。

したがって、顧客分析に関しては、事前の概念が非常に重要であり、このドメインにとってベイジアンネットワークの概念は非常に重要です。

推奨される学習：

ニューラルネットワークのベイズ法

ビジネス分析におけるベイジアンネットワーク

結果を予測することと同じくらい結果を変えることを気にすることもあります。

十分なトレーニングデータが与えられたニューラルネットワークは、結果をよりよく予測する傾向がありますが、結果を予測できるようになったら、結果に対する入力フィーチャの変更の影響を予測できます。

誰かが心臓発作を起こす可能性があることを知っている実生活の例は便利ですが、XXをやめるとリスクが30％減少することを伝えることができます。

同様に、顧客維持のために、顧客があなたと買い物をやめる理由を知ることは、あなたと買い物をやめそうな顧客を予測するのと同じくらい価値があります。

また、予測は下回りますが、より多くのアクションが行われる単純なベイジアンネットワークは、より「正しい」ベイジアンネットワークよりも優れている場合があります。

ニューラルネットワークに対するベイジアンネットワークの最大の利点は、因果推論に使用できることです。このブランチは統計と機械学習にとって基本的に重要であり、Judea Pearlはこの研究でチューリング賞を受賞しています。

ベイジアンネットワークは、小さなデータ設定でニューラルネットワークよりも優れている場合があります。事前情報がネットワーク構造、事前情報、およびその他のハイパーパラメータを介して適切に管理されている場合、ニューラルネットワークよりも優れている可能性があります。ニューラルネットワーク、特に層数の多いネットワークは、データを大量に消費することが非常によく知られています。定義により、それらを適切にトレーニングするには多くのデータが必要です。

このリンクをRedditに投稿し、多くのフィードバックを得ました。ここに回答を投稿した人もいれば、投稿しなかった人もいます。この回答は、redditの投稿をまとめたものです。（私はそれをコミュニティwikiにしたので、私はそれのためにポイントを獲得しません）

• バリエーションベイズの自動エンコードは、ベイズネットワークとニューラルネットワークの組み合わせです。ベルヌーイ近似変分推論によるベイジアン畳み込みニューラルネットワークの論文は、同じ方向に進むようです。
• ドロップアウト：ニューラルネットワークの過剰適合を防ぐ簡単な方法は、ベイジアンニューラルネットワークがドロップアウトアプローチよりも優れている例です（セクション6.4「ベイジアンニューラルネットワークとの比較」を参照）。
• 確率的プログラム帰納法による人間レベルの概念学習は、「ニューラルネットワークよりも優れた方法でワンショット分類を行うベイジアンネットネットワーク」に関する論文です（trashacount12345によると-今のところ確認していません）。
• Yann LeCunはGoogle+の投稿を書いており、ニューラルネットワークと確率的グラフィカルモデルは直交概念ではないと主張しています。

ベイジアンネットワークは、ゲノムの解釈に適しています。たとえば、ゲノム解釈のための計算方法について議論しているこの論文を参照してください。

私はこのために一度小さな例をしました。そのことから、分布をキャプチャしたいが、入力トレーニングセットが分布を十分にカバーしていない場合、ベイジアンネットワークが好ましいと思います。このような場合、一般化されたニューラルネットワークでさえ、分布を再構築することはできません。

ニューラルネットが他の学習者よりも優れていることに強く同意しません。実際、ニューラルネットは他の方法と比較してかなり悪い結果を出しています。また、このビーイングが偶然に頻繁に行われるパラメーターの選択に関するいくつかのアドバイスにもかかわらず、方法論はありません。また、フォーラムでニューラルネットがどのように優れているかについてランダムに話している人もいますが、それについての証拠があるからではなく、ファンシーでバズの言葉、「ニューラル」について引き付けられているからです」 xgboostと比較するためにニューラルネットを試してみましたか？