優れたギブスサンプリングチュートリアルとリファレンス

Gibbs Samplingがどのように機能するかを学びたいのですが、基本的なものから中級の論文までを探しています。私はコンピューターサイエンスの背景と基本的な統計知識を持っています。

誰もが良い資料を読んでいますか？どこでそれを学びましたか？

ありがとう

私は始めます：

カセラ、ジョージ; ジョージ、エドワードI.（1992）。「ギブスサンプラーの説明」。アメリカ統計学者 46（3）：167–174。（無料PDF）

要約：Gibbsサンプラーなどのコンピューター集約型アルゴリズムは、応用研究と理論研究の両方で、ますます一般的な統計ツールになりました。ただし、そのようなアルゴリズムの特性は明らかでない場合があります。ここでは、Gibbsサンプラーがどのように、そしてなぜ機能するかについて簡単に説明します。単純なケースでそのプロパティを分析的に確立し、より複雑なケースの洞察を提供します。また、いくつかの例もあります。

アメリカの統計学者は、トピックの事前知識を前提としない短い（入門）入門記事の良い情報源であることが多いが、アメリカ人のメンバーに合理的に期待される確率と統計の背景があることを前提としている統計協会。

Gibbs Samplingの理解に本当に役立ったオンライン記事の1つは、Gregor Heinrichによるテキスト分析のパラメーター推定です。一般的なギブスのサンプリングチュートリアルではありませんが、ドキュメントモデリング用のかなり人気のあるベイジアンモデルである潜在ディリクレ割り当ての観点から説明しています。それはかなり詳細に数学に入ります。

さらに詳細な数学的詳細に進むのは、未経験者のためのギブスサンプリングです。そして、多変量計算を知っていることを前提とし、その時点からのすべてのステップをレイアウトするという点で網羅的です。そのため、数学はたくさんありますが、高度なものはありません。

これらは、ギブスのサンプリングが正しい分布に収束する理由を証明するものなど、より高度な結果を導き出すものよりも、あなたにとってより役立つと思います。私が指摘する参考文献はこれを証明していません。

Scientific ComputingのMonte Carlo Strategiesの本は優れたリソースです。数学的に厳密な方法で対処しますが、興味のない数学のセクションを簡単にスキップし、実用的なアドバイスを得ることができます。特に、Metropolis-HastingsとGibbsのサンプリングを結び付けるという素晴らしい仕事をしています。これは非常に重要です。ほとんどのアプリケーションでは、ギブスサンプリングを使用して事後分布から描画する必要があります。したがって、一般にメトロポリスのロジックにどのように適合するかを知っておくと役立ちます。