ベイズネットワーク、ニューラルネットワーク、決定木、ペトリネットの違い


30

ニューラルネットワークベイジアンネットワークディシジョンツリーペトリネットの違いは何ですか?それらはすべてグラフィカルモデルであり、因果関係を視覚的に示していますが。


1
また、ベイジアンニューラルネットワーク(混乱を招きやすい)があることに注意してください。これは、基本的に、ベイジアンのパラメーター処理を備えたニューラルネットワークです。
naught101

回答:


27

なんて大きな質問でしょう!答えの簡単なバージョンは、図式的に類似した視覚表現を使用して2つのモデルを表現できるからといって、それらが構造的、機能的、または哲学的に離れていることを意味しません。私はFCMやNFに精通していませんが、他の人に少し話すことができます。

ベイジアンネットワーク

ベイジアンネットワークでは、グラフはモデル内のさまざまな変数の条件付き依存関係を表します。各ノードは変数を表し、各有向エッジは条件付き関係を表します。基本的に、グラフィカルモデルはチェーンルールの視覚化です。

神経網

ニューラルネットワークでは、各ノードはシミュレートされた「ニューロン」です。ニューロンは基本的にオンまたはオフであり、その活性化は、ネットワークの先行する「レイヤー」の各出力の値の線形結合によって決定されます。

決定木

分類に決定木を使用しているとしましょう。このツリーは基本的に、観測の分類方法を説明するフローチャートを提供します。ツリーのルートから開始し、最終的に葉が予測する分類を決定します。

ご覧のとおり、これらの3つのモデルは、ボックスと矢印で表現できること以外は、基本的に互いにまったく関係がありません。


1
理論は別として、デシジョンツリーはデータを吐き出すことで変数間の依存関係も処理していませんか?私は機械学習の分野が初めてであり、どのアルゴリズムをどのシナリオで使用するかを直感的に理解することに興味があります。私には、変数間の正確な関係を知っているときにベイジアンネットワークを使用するように見えますが、一部の変数は他の変数に依存しているかもしれないが、どの変数を正確に知らないかを決定するときはデシジョンツリーを使用します。これが正しいと思われるかどうか、またはベイジアンネットワークとデシジョンツリーの適用可能性をより詳細に説明できるかどうかを知りたいです。
ディーパックアガルワル

答えは、「これらの3つのモデルは基本的にお互いに何の関係もない」と言って、全体像をスケッチするための違いと類似性の両方を指すべきだと本当に思います。デシジョンツリーとニューラルネットワークは、BNの生成アプローチと比較して、同じ識別アプローチを採用しています。他の2つは関数を表していますが、ベイジアンネットワークは一般化された関数(分布)を表しています
。...-Lejafar

1
ここで行っている記述的と生成的な区別は間違っています。ニューラルネットワークを使用して、生成モデルを構築できます。たとえば、GANを検討してください。質問は「これらのモデルは視覚的に同様の方法で表されますが、構造的に類似しているということですか?」に要約されるため、私の答えは十分です。そして、これらのグラフィック表現が非常に異なる情報をエンコードする方法を説明しました。
デビッドマルクス

1
あなた自身の答えを自由に追加してください。
デビッドマルクス

2
@Lejafar、編集を使用して他人の回答の内容を変更しないでください。回答に同意しない場合は、コメントを残すか、投票するか、自分の回答を投稿してください。
GUNG -復活モニカ

5

ロジスティック回帰が無条件のグラフィカルモデルである条件付きランダムフィールドの制限されたバージョンであり、ベイジアンネットワークが有向のグラフィカルモデルであることを示すのは簡単です(Daphne Kollerのコースを参照)。それから、ロジスティック回帰は単一層パーセプトロンとして見ることもできます。これは、ベイジアンネットワークとニューラルネットワークの間に描くことができる唯一のリンク(非常に緩い)です。

あなたが尋ねた他の概念間のリンクをまだ見つけていません。


2
このサイトへようこそ、この貢献に感謝します。これがどのように見やすいかについて詳しく説明していただけますか?現時点では、これは人々にとって明白でないかもしれない主張にすぎません。情報はリンクにある可能性がありますが、リンクが停止した後でもこのスレッドに情報を残しておく必要があります。
GUNG -復活モニカ

ありがとね!説明がどれほどきめ細かくなるのかわかりません(Daphneが証拠を準備するのに少なくとも30分かかります)し、それも私の頭の中では特に新鮮ではありませんが、一般的な考え方は、ロジスティックモデルはギブス分布は、CRFの基礎となります。
オクタビアマリアȘulea

1
crfの意味?crf =条件付きランダムフィールドですか?
ライフのテッドテイラー

2

@David Marxによる優れた回答。分類/回帰ツリーとベイジアンネットワークの違いは何かと疑問に思っていましたが、1つはエントロピーに基づいて結果を異なる予測子に基づいてクラスに分類し、もう1つは条件付き独立性と確率的パラメーター推定を使用してグラフィカルネットワークを構築します。

ベイジアンネットワークを構築する方法論は、回帰/決定ツリーとは異なると感じています。構造学習のアルゴリズム、モデルを使用する目的、およびモデルの推論能力は異なります。

スコアベースおよび制約ベースのアプローチは、ディシジョンツリーファミリの情報獲得基準を使用して描かれた類似点によって理解できます。


1

まず、これらの方法で解決しようとした問題の性質を述べようとします。問題が単純な場合、多項式またはNP完全な場合、論理規則に沿った公理の単純な再結合により、決定論的な答えを提供できるアルゴリズムをプラグインする準備ができています。ただし、そうでない場合は、推論の方法に頼る必要があります。この場合、問題を異種として扱い、ネットワークにプラグインします。ノードは評価で、エッジはコンポーネント間の経路です。

あらゆる種類のネットワークベースの推論では、線形フローの論理規則に従って抽象的な一般化と組み合わせを使用して演ductive的に推論するのではなく、異なる方向の推論の伝播に基づいて問題を解決します一度に1つのノードの問題であり、将来のノードに関する新しい事実の発見の改善に開かれています。ここで、これらの手法のそれぞれが独自の方法でこの問題解決の方法にどのようにアプローチするかを見てみましょう。

ニューラルネットワーク: ニューラルネットワークはブラックボックスであり、繰り返しの外部補強によってシンプトンノード間の接続が形成され、強調されると考えられています(システムの外部から検証することはできません)。Connectionsiticパラダイムの問題にアプローチします。問題はおそらく解決されますが、説明可能な方法はほとんどありません。説明可能性の問題が見落とされた場合、迅速な結果を生成できるため、現在、ニューラルネットは広く使用されています。

ベイジアンネットワーク: ベイジアンネットワークは有向非循環グラフであり、フローチャートに似ていますが、フローチャートにのみ循環ループを含めることができます。フローチャートとは異なり、ベイジアンネットワークは複数の開始点を持つことができます。基本的に、イベントが経路間で確率的に分岐する、複数のあいまいなポイントにわたるイベントの伝播を追跡します。明らかに、ネットワーク内の任意のポイントで、そのノードが訪問される確率は、先行するノードの結合確率に依存します。ベイジアンネットワークは、確率論的であるため、アルゴリズムのように正当な値内で再検討および変更される各ステップに基づいて複数の安定状態を持つことができるにもかかわらず、明示的な推論であるという点でニューラルネットワークとは異なります。確率的に推論するための堅牢な方法ですが、確率のエンコードを伴います。

デシジョンツリー: デシジョンツリーもネットワークです。これは、フローチャートに似ており、ニューラルネットワークよりもベイジアンネットワークに近いものです。各ノードには、ニューラルネットよりも多くのインテリジェンスがあり、分岐は数学的評価または確率的評価によって決定できます。決定は、可能性の高いイベントの頻度分布に基づく単純な評価であり、決定は確率的です。ただし、ベイジアンネットワークでは、決定は、イベント自体を直接観察するのではなく、発生したイベントを指す「証拠」の分布に基づいています。

たとえば、トラ保護区の端にあるヒマラヤの村を横切る人食いトラの動きを予測する場合、次のようにどちらのアプローチでもモデル化できます。

決定木では、トラがオープンフィールドを選択するか、川がオープンフィールドを選択するかを専門家の推定に依存します。ベイジアンネットワークでは、トラをパグマークで追跡しますが、これらのパグマークは、通常その領土をパトロールしている他の同様のサイズのトラのマークである可能性があることを認める方法で推論します。ニューラルネットを使用する場合、泳ぐことの好み、開いたエリアよりも覆われたエリアの好み、人間の居住地の回避など、トラの一般的なさまざまな行動特性を使用してモデルを繰り返しトレーニングする必要がありますネットワークがトラが取るかもしれないコースを一般的に推論することを許可します。


0

グラフィカルモデルに関して、Petri Netはシステムの動作を形式化します。それは言及された他のモデルとは大きく異なり、そのすべてが判断がどのように形成されるかに関係しているという点で。

引用された名前のほとんどは非常に広範なAIの概念を指定することに注意してください。多くの場合、これらは合体します。たとえば、ニューラルネットワークを使用して決定ツリーを構築できます。推論。


-3

それは良い質問であり、私も同じことを自問してきました。2種類以上のニューラルネットワークがあり、以前の答えは競合タイプに対処したようですが、ベイジアンネットワークは競合タイプではなく、フィードフォワード、バックプロパゲーション(FFBP)タイプに類似しているようです。実際、ベイジアンネットワークはFFBPを一般化したものだと思います。したがって、FFBPはベイジアンネットワークの一種であり、同様に機能します。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.