「メッセージパッシングメソッド」とは何ですか？

私は、メッセージパッシングメソッドとは何かという漠然とした感覚を持っています。他のすべての要因のすべての近似を条件として、分布の各要因の近似を繰り返し構築することにより、分布の近似を構築するアルゴリズムです。

私は両方が変分メッセージの受け渡しと期待の伝播の例であると信じています。メッセージパッシングアルゴリズムとは、より明示的/正確に何ですか？参照は大歓迎です。

参照を求めているので、David MacKayの第16章をお勧めしInformation Theory, Inference, and Learning Algorithmsます。（16章を理解するために前の15章を読む必要はありません）この本は著者のウェブサイトから無料でダウンロードできます（出版社の許可を得て）。

興味深い例については、John Winnの論文をご覧ください。一般的な変分アンサンブル学習にメッセージパッシングアルゴリズムを使用-ICAやPCAなどの推論問題の簡単な構築を可能にします。

信念の伝播に関する記事が役立つかもしれません。

この記事では、ファクターグラフのエッジに沿って「メッセージ」がどのように渡されるかについて、2つの箇条書きで説明しています。この「メッセージの受け渡し」は、どのグラフでも実行できます。ツリーの場合、アルゴリズムは、ツリー内のノードの望ましい周辺分布および結合分布の計算を提供するという意味で正確です。一般的なグラフのアルゴリズムの反復は、所望の周辺分布または結合分布の近似を生成する試みです。