最高の入門ベイズ統計教科書は何ですか?


192

ベイジアン統計の最良の入門教科書はどれですか?

回答ごとに1冊お願いします。


36
返信で、本を「最高」として推薦する理由を説明してください
whuber

3
このように表現された質問に複数の答えがあるのはどうしてですか?
naught101

7
これは今では古いスレッドですが、私は新しい統計「統計の再考。+ 1に戻りました。スレッドの上位の回答を見ると、重要な区別は行われていません。誰のためですか?」統計の最初のコース(たまたまベイジアンアプローチをとる)?基本的な学部(非ベイジアン)統計クラスを持つ人のためのベイジアンメソッドの紹介?または、最終的に非ベイジアン統計の実践者のためのベイジアン統計の紹介このベイジアンのことは流行ではないと説得されましたか?非常に異なる紹介
ウェイン

回答:


79

John Kruschkeは2011年半ばにDoing Bayesian Data Analysis:A Tutorial with R and BUGSという本をリリースしました。(2014年11月にリリースされた第2版:Doing Bayesian Data Analysis、第2版:R、JAGS、およびStanを使用したチュートリアル)これは本当に入門です。ただし、特にマルチレベルモデリングを使用して、頻繁な統計情報からベイズに移動する場合は、GelmanとHillをお勧めします。

John Kruschkeには、BUGSおよびJAGSの本のすべての例を含む本のWebサイトもあります。ベイジアン統計に関する彼のブログも本とリンクしています。


@Amirの提案はこれの複製です。(この本の完全なタイトルは、「ベイジアンデータ分析の実行:RとBUGSを使用したチュートリアル」です。)
ウェイン

タイトルを更新し、いくつかの関連リンクを追加しました。
ジェロミーアングリム

4
Kruschkeの本にも投票します。回答にリストされているほとんどの本を閲覧しましたが、これが最もわかりやすいものです。IMO、これは私が読んだ最も明確な統計書です。Rコードを使用して、式とコードを一致させることができます。著者は非常に単純な例から始め、それらに基づいて作成します。背景はほとんど必要ありません。Amazonでのすべてのレビューは非常に好意的です。ホフの本は私の2番目のお気に入りです。
ジュリス

ハハ、私は本の表紙が好き:「なぜ幸せな子犬(幸せな子犬は正当化を必要としているかのように!)?」
Zhubarb

私の投票はKruschkeの2010年の本にも行きます。ベイジアン統計を学習する際に、私はそれらのいくつかを試してみましたが、これが成功しました。ハード。
パトリッククーロンベ14年

55

私のお気に入りは、ゲルマンらによる「ベイジアンデータ分析」です。


28
これは、すでにかなりの統計的背景を持っている人向けの入門書です。
ジョンサルバ

38
私は9か月前に統計学の博士号を取得しましたが、正直なところ、GelmanのBDAはまだ私の上にあります。
ショーン

5
-1。複数のコメントやその他の回答によると、これは入門ではないからです。
naught101

6
@ naught101だから、本を知らずに投票する?
推測

5
最初の4つまたは5つの章は本当に入門です!ここに属します
kjetil bハルヴォルセン

33

Statistics Rethinkingは数週間前にリリースされたので、私はまだそれを読んでいますが、Bayesian Statisticsについての入門書への非常に素晴らしくて新鮮な追加だと思います。著者はジョンクルシュケが子犬の本で使用したアプローチと同様のアプローチを使用しています; 非常に冗長で詳細な説明、素晴らしい教育的例、彼は数学的アプローチではなく計算的アプローチも使用しています。

Youtubeの講義やその他の資料もこちらから入手できます

Python / PyMC3に移植されたコード


4
+1今講義を聞いています。彼はとても面白くて、良いアプローチをしています。この本は優れており、基本から階層モデルまでを紹介しています。読者がやや科学的であり、数学(計算を含まない)を合理的に把握しており、統計に関するいくつかのことを聞いていることを前提としています。それは私が望んでいた本です。彼が物事を提示する順序と、彼の側近のシステムは素晴らしい。
ウェイン

1
私は壁にぶつかり、Kruschkeの本を調べようとしました。そこで彼は、私がたどることができなかった論理を大きく飛躍させ始めました。幸いなことに、私は統計的再考に出くわしました。これは、これまでのところ、トピックを本当に直感的に理解できる唯一の本です。
ブライドー

スレッドを読んだ後、この本の最初の章を読んでみましたが、英語を母国語としない人として、また非科学者として非常に難しいことがわかりました。最初に認識論特異性などの単語を調べなければなりませんでした。次に長い文章があり、tehyの文字通りの意味を理解するために2回または3回読む必要がありました(これらの文章の結論を忘れてください)。それから、最初の例は自然進化に関するもので、ギリシャ語のように聞こえました。サイトの数、対立遺伝子の数、中立性です。この本は多くの人にとっては簡単かもしれませんが、多くの人にとっては難しいかもしれません
ガウラフシンハル

30

Gelman et al。に対するもう1つの票ですが、私にとっては2番目に近いものです-実践による学習説得である-は、Jim Albertの「Rによるベイジアン計算」です。


5
強く同意します。両方の素晴らしい本。Rを使用したベイジアン計算から開始し、Gelman et al。
PeterR

26

Sivia and Skilling、データ分析:ベイジアンチュートリアル(2ed)2006 246p 0198568320 books.goo

統計学の講義は、何世代にもわたる生徒たちを困惑させ欲求不満の源にしてきました。この本は、データ分析の主題全体に対する論理的で統一されたアプローチを説明することにより、状況を改善しようとします。このテキストは、科学と工学の上級学部生と研究生のためのチュートリアルガイドとして意図されています...

しかし、他の推奨事項は知りません。


3
この本は素晴らしい。短くて実用的です。
ジョンサルバティエ

2
これは、ゲルマンよりもはるかに優れた入門書だと思います。
ショーン

21

はじめに、Cam Davidson-Pilonによる確率的プログラミングとハッカーのためのベイジアン手法をお勧めします。これはオンラインで無料で入手できます。

その説明から:

計算/理解第一、数学第二の観点からのベイジアン手法と確率的プログラミングの紹介。

それは非常に視覚的で、値をまっすぐにカットし、後でざらざらした詳細を埋め戻し、多くの例があり、インタラクティブなコードがあります(IPython Notebook)。


4
私はこのオンラインの本を読むのが難しい/書かれていないと思いました。
captain_ahab

2
この本は大丈夫だと思う。
SmallChess

1
この本は、プログラマーがベイジアン統計の素晴らしい最初の経験をするための素晴らしい
入門

19

私は、ETジェインズによる面白い論争の「確率論:科学の論理」を徹底的にお勧めします。

これは、統計の予備知識を必要としない(そして実際に好む)という意味での導入テキストですが、最終的にはかなり洗練された数学を採用します。提供されている他のほとんどの回答と比較すると、この本は実用的または消化が容易ではなく、ベイジアン手法を採用する理由と、頻繁なアプローチを使用しない理由の哲学的基盤を提供します。歴史的かつ哲学的な入門ですが、教育的な方法ではありません。


8
これは、ベイジアン手法を適用するいうよりも、ベイジアン思考に関する素晴らしい本です。これは、ベイジアン計算をどのように行うかをより詳しく説明する優れたガイドです。
確率論的

3
それはそれを置く良い方法です。Sivia and Skillingは、実際にメソッドを紹介するための理想的なコンパニオンテキストだと思います(別の回答で既に提案されています)。
ボグダノビスト

2
確かに面白い、論争的で独創的なものですが、入門書ではありません。
西安

19

私は電気技師であり、統計学者ではありません。私はゲルマンを通過するのに多くの時間を費やしましたが、ゲルマンを導入と呼ぶことはまったくできないと思います。カーネギーメロンの私のベイジアングルの教授はこれに同意します。統計とRとバグに関する最小限の知識(ベイジアン統計で何かをする簡単な方法として) ベイジアンデータ分析の実行:RとBUGSのチュートリアル は素晴らしいスタートです。提供されているすべての本を表紙で簡単に比較できます!

5年後の更新:おそらく、もう1つの主要な学習方法(40分)をNetica 2などのBayesian Net GUIベースのツールのドキュメンテーションに通すことを追加したいと思います。基本から始め、状況とデータに基づいてネットを構築する手順を説明し、「取得」するために独自の質問をやり取りする方法を説明します。


1
これは、上記の@rosserの回答の複製です。本当に入門書として、私はそれぞれに+1を付けました。
ウェイン

16

その焦点はベイジアン統計に厳密ではないため、いくつかの方法論が欠けていますが、David MacKayの情報理論、推論、学習アルゴリズムにより、ベイジアン統計を他よりも直感的に把握することができました-ほとんどが非常にうまくいきましたが、私はMacKayが理由を説明したと感じましたより良い。


6
著者ページから無料でダウンロードできます:inference.phy.cam.ac.uk/mackay/itila/book.html
PeterR

5
Siviaのように、これは物理学のバックグラウンドがあれば非常にいいですが、そうでない場合は大雑把になります。適用されたあらゆる種類の社会統計(Gelman and Hill、またはGelman et al。を使用)の優れたガイドではありませんが、核心的な問題について本当に考えるよう促すには本当に素晴らしいです。
共役前

16

Gelmanの本はすべて優れていますが、必ずしもいくつかの統計情報を知っていることを前提としているため、必ずしも入門書ではありません。したがって、それらは統計一般ではなく、ベイジアン統計の方法の紹介です。しかし、私はまだ彼らに親指をあきらめます。

ベイズの視点を取り入れた統計/計量経済学の入門書として、ゲーリー・クープのベイズ計量経済学をお勧めします。


15

ベイジアンコア:計算ベイジアン統計への実践的アプローチ」、Marin and Robert、Springer-Verlag(2007)。

「なぜ?」:著者は、ベイジアン選択の理由と非常にうまく説明しています。それは実用的な本ですが、生きている最高のベイジアン思想家の一人によって書かれました。完全ではありません。他の本にはその目的があります。関連性があり、有用であり、基盤を照らすいくつかのトピックを取り上げます。

「選択」について:もしあなたが本当にベイジアンの基礎を掘り下げたいなら、西安の「ベイジアンの選択」は明確で、深く、不可欠です。


7
@ Xi'an and gappy、この本が推奨される理由を説明してください。誰に適していますか?どのような意味で「最高」ですか?
whuber

4
私は自己宣伝になりたくありません。ベイジアンコアは、最も一般的なモデルおよび計算手法(Rコードが提供されている)のベイジアン推論への自己完結型のエントリです。一部の読者には多すぎる可能性がある確率理論の背景が必要です...(フランスの4年生と5年生でうまく機能します。)
西安


13

なぜベイジアンに関する非常に入門的な本に言及していないのか、私にはわかりません。

ここに画像の説明を入力してください

この本には無料のPDFバージョンがあります。この本は、ベイジアンの経験がほとんどない人に十分な資料を提供します。事前分布、事後分布、ベータ分布などの概念を紹介します。

試してみてください、無料です。

http://greenteapress.com/thinkbayes/






9

「ベイジアンチョイス」をご覧ください。基礎、アプリケーション、計算の完全なパッケージがあります。明確に書かれています。


ソリューションマニュアルが自習用であれば、「ベイジアン」だけでなく、「素晴らしい選択」になります。これは大学での使用のみを目的としているようです
...-gwr

9

私は少なくともこのリストでこれらのほとんどを一目見ましたが、私の意見では新しいベイジアンのアイデアとデータ分析ほど優れたものはありません。

編集:この本を読みながら、ベイジアン分析をすぐに開始するのは簡単です。既知の分散を持つ正規分布から平均値をモデル化するだけでなく、最初の数章の後に実際のデータ分析を行います。すべてのコード例とデータは、本のWebサイトにあります。かなりの量の理論をカバーしていますが、焦点はアプリケーションです。幅広いモデルにわたる多くの例。ベイジアンノンパラメトリックに関する素晴らしい章。Winbugs、R、およびSASの例。ベイジアンデータ分析を行うよりも好きです(両方あります)。ここにある本のほとんど(ゲルマン、ロバート、...)は私の意見では入門ではありません。あなたと話す人がいない限り、おそらくより多くの質問と回答が残されます。アルバートの本は、本に示されているものとは異なるデータを快適に分析するのに十分な資料をカバーしていません(これも私の意見です)。


2
どういう意味で「良い」?
whuber

いい視点ね。最高の入門ベイジアン教科書のように。アルバートによるRによるベイジアンデータ分析よりも「良い」と信じており、ゲルマンらによるベイジアンデータ分析を見つけました。紹介として十分ではありません。しかし、いくつかのベイジアン教材を学習した後、それは良いリファレンスです。
グレン



7

MCMCを実践に含める必要があります。MCMCの優れた紹介であり、おそらく他の本ほど一般的ではありませんが、洞察と直感を得るのに優れています。Rによるベイジアン計算の後(または並行して)読むことをお勧めします。


私の意見では、Mmccはベイジアン統計の紹介の焦点では​​ないはずです。ベイジアン学習がどのように機能するかを理解する方法として、拒絶サンプリングはより魅力的だと思います。また、最小二乗はベイジアンです(最大尤度と同様)ので、mcmcと比較して、ベイジアン統計のより穏やかな導入を表します。
確率の

2
私の見解では、mcmcは避けて最後の手段として使用する必要があります-ほとんどの場合、時間がかかりすぎます(すべてが基本的にmleであるビッグデータセットを扱います)。mcmcは、ある程度の「スレッジハンマー」です。また、mcmcは数値積分のアルゴリズムです。これ以上でもそれ以下でもありません。Laplaceメソッドやquadratreなど、他のアルゴリズムと同じ導入処理を行う必要があります。そうでなければ、人々は「ベイジアン統計」とは何かという狭い視野を開発するでしょう。
確率論的

6

物理学(物理学/天文学)から来た場合、物理学のためのベイジアン論理データ分析:グレゴリーによるMathematica®サポートとの比較アプローチ(2006)をお勧めします。

タイトルの「withMathematica®サポート」の部分は商業的な問題のためだけにありますが(Mathematicaコードの使用法は非常に貧弱です)、この本の良いところは、それが本当に確率と統計の主題の紹介であることです。頻度統計に関するいくつかの章もあります。ただし、一度試してみてから、Gelman et。多くの人があなたを推薦したことも。グレゴリーの本の内容の大部分は軽く取られています(そうでない場合、それは紹介ではありません):ゲルマンの本は、私にとってグレゴリーの本から本当に目覚めました。


フィルグレゴリーの本は、非常に優れた入門書であり、ボルスタットの高度な数学的背景を持つ人々への入門書に似ています。Phil GregoryのWebサイトにはさらに多くのリソースがあり、階層モデルと欠落データの処理に対処する補足資料もあります。
-gwr

6

私は読む:

ゲルマンら(2013)。ベイジアンデータ分析。CRC Press LLC。第3版

ホフ、ピーターD(2009)。ベイジアン統計法の最初のコース。統計のスプリンガーテキスト。

Kruschke、Doing Bayesian Data Analysis:A Tutorial with R and Bugs、2011. Academic Press / Elsevier。

そもそも、Kruschkeの本から始めたほうがいいと思います。これは、ベイジアン思考への最初のアプローチに最適です。概念は非常に明確に説明されており、数学が多すぎず、素晴らしい例がたくさんあります!

ゲルマン等。は素晴らしい本ですが、より高度な本なので、Kruschkeの本の後に読むことをお勧めします。

逆に、ホフの本は入門書であるため好きではありませんでしたが、概念(およびベイジアン思考)は明確に説明されていません。渡すことをお勧めします。


6

初心者向けに単一のテキストを選択する必要がある場合、それは

              Sivia DS and Skilling J (2006) book (see below). 

以下にリストされているすべての本の中で、本質的なアイデアを直感的に把握するように努めていますが、それでもページ1からの数学的洗練が必要です。

以下は私の出版物からのさらなる読書のリストであり、各出版物へのコメントがあります。

ベルナルド、JMおよびスミス、A、(2000)4。ベイジアン理論多くの実世界の例を含むベイジアン法の厳密な説明。

ビショップ、C(2006)5。パターン認識と機械学習。タイトルが示唆するように、これは主に機械学習に関するものですが、ベイジアン手法の明快で包括的な説明を提供します。

コーワンG(1998)6。統計データ分析。統計分析への優れた非ベイジアン紹介。

ジエン、Z(2008)8。科学としての心理学の理解:科学的および統計的推論の紹介。ベイズの規則に関するチュートリアル資料と、ベイジアン統計と頻度統計の区別に関する明快な分析を提供します。

ゲルマンA、カーリンJ、スターンH、およびルービンD.(2003)14。ベイジアンデータ分析。ベイズ分析の厳密かつ包括的な説明、および多くの実世界の例。

ジェインズEおよびブレトホルストG(2003)18。確率論:科学の論理。ベイジアン分析の現代の古典。それは包括的で賢明です。その説得力のあるスタイルは長く(600ページ)なりますが、退屈することはなく、豊富な洞察が満載です。

カーン、S、2012年、ベイズの定理の紹介。Salman Khanのオンライン数学ビデオは、ベイズの規則を含むさまざまなトピックの優れた紹介です。

リーPM(2004)27。ベイジアン統計:はじめに。厳格なベイジアンスタイルの厳密で包括的なテキスト。

MacKay DJC(2003)28。情報理論、推論、および学習アルゴリズム。情報理論に関する現代の古典。ほぼすべてがベイズの規則を利用している多くのトピックにわたって広範囲にローミングする非常に読みやすいテキスト。

ミゴン、HS、ゲーマーマン、D(1999)30.統計的推論:統合アプローチ。ベイジアンと非ベイジアンのアプローチを比較する、単純な(そして明確にレイアウトされた)推論の説明。かなり高度であるにもかかわらず、執筆スタイルは本質的にチュートリアルです。

ピアスJR(1980)34第2版。情報理論の紹介:シンボル、シグナル、ノイズ。Pierceは、非公式のチュートリアルスタイルの執筆で執筆していますが、情報理論の基本的な定理を提示することから逃れません。

レザ、FM(1961)35。情報理論の紹介。上記のPierceの本よりも包括的で数学的に厳密な本であり、Pierceのより非公式なテキストを最初に読んだ後にのみ読むことが理想的です。

Sivia DSおよびSkilling J(2006)38。データ分析:ベイジアンチュートリアル。これは、ベイジアン手法の優れたチュートリアルスタイルの紹介です。

Spiegelhalter、D and Rice、K(2009)36。ベイジアン統計。Scholarpedia、4(8):5230。 http://www.scholarpedia.org/article/Bayesian_statistics ベイジアン統計の現在の状況に関する信頼できる包括的な要約。

そして、2013年6月に出版された私の本です。

ベイズのルール:ベイズ分析のチュートリアル入門、ジェームズVストーン博士、ISBN 978-0956372840

第1章は、http//jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.htmlからダウンロードできます。

説明:18世紀の数学者および説教者によって発見されたベイズの規則は、現代の確率理論の基礎です。この豊富に説明された本では、ベイズの規則が実際に常識的推論の自然な結果である方法を示すために、さまざまなアクセス可能な例が使用されています。ベイズのルールは、直感的な確率のグラフィカル表現を使用して導出され、ベイジアン分析は、提供されているMatLabプログラムを使用したパラメーター推定に適用されます。チュートリアルの執筆スタイルと包括的な用語集を組み合わせることで、ベイジアン分析の基本原則に精通したい初心者にとって理想的な入門書となります。

ここに画像の説明を入力してください


4

厳密にはベイジアン統計などではありませんが、強くお勧めできます 、「機械学習上の最初のコースを」本質的機械学習にベイジアンアプローチを紹介している、ロジャースとGirolamiで。その非常によく構造化された明確で、強力な数学的背景のない学生向けです。これは、Bayesianのアイデアのかなり良い最初の紹介であることを意味します。また、便利な機能であるMATLAB / OCTAVEコードもあります。


4

社会科学者向けのベイジアン統計。Phillips、Lawrence D.(1973)、Thomas Crowell&Co.それは非常に明確で、非常にアクセスしやすく、統計知識がないと仮定し、私が乾いたと感じたボルスタッドとは異なり、いくらか個性があります。


3

この本は、入学レベルの学部レベルを対象としていることを示唆しています

生物統計学:ベイジアン紹介。ジョージGウッズワース。

ジョン・ワイリー・アンド・サンズ発行



2

初心者のタイプは質問で指定されていないので、統計学を始めるための私のアドバイスは次のとおりです。

アンドリュー・B・ローソンとエマニュエル・レサフレ(2012): ベイジアン生物統計学

この本は私たちの統計科学のマスターの最初の年に使用されたので、このような難しい主題については比較的理解しやすいことがわかりました。大部分の「生物統計」の本と同様に、例は主に臨床生物学ですが、方法は臨床科学で有用なものに限定されません。これまで約半年の統計教育を受けていましたが、ベイズの定理以外に、ベイジアン統計はまだ導入されていませんでした。

また、付随するプレゼンテーションの649枚のスライド全体がオンラインで利用できることも素晴らしいことです

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.