ベイジアン階層モデルでは、交換可能性が保持されない場合、何が問題になりますか？

多くの教科書では、古典的なノーマル-ノーマルモデルなどのベイジアンモデルが提示されると、試験は交換可能でなければならないというある種の簡単な言及があります。なぜこれが必要なのか、交換可能性が保持されない場合は何がうまくいかないのでしょうか。誰かが簡潔な答えを持っていますか？

交換性は必要ありません。観測値を交換できないベイジアンモデルがあります。たとえば、天気予報または財務における時系列分析および予測のモデル。一般的に言えば、そのようなモデルでは、より最近の観測は、将来の観測についての推論に対してより適切であると考えられています。一種の「衰退する記憶」。したがって、交換可能性は想定できません。交換不可能なモデルは多種多様です。以下の参考文献を参照してください。

多くの場合、交換可能なモデルは扱いが簡単ですが、不適切な場合があります。実際、「間違っている」と「正しい」のではなく、問題は、交換可能性、または上記の「フェージングメモリ」のような他の仮定が、行う推論に対してより適切であるか、合理的であるか、または計算が容易かどうかです。多くの場合、これら2つの側面のバランスを見つける必要があります。

推論モデルが「正しい」かどうかを判断できる実験がないため、「正しい」または「間違った」ものはありません。これは帰納法の根本的な問題であり、多くの著者がこれについて書いています。以下に引用するヒューム、ジョンソン、ジェフリーズ、ドフィネッティ、ジェインの作品をお勧めします。統計モデルとして形式化された帰納法の特定の方法のみを適用して、それが満足できるかどうかを確認できます。そして、この満足度は多くの基準に依存し、その多くは主観的です。

Bernardo＆Smith：Bayesian Theory（Wiley 2000）のようなテキストは交換可能性に重点を置いていますが、彼ら自身が述べているように（§1.4.1）、彼らの本はベイズ確率理論におけるあらゆる種類の推論をカバーすることを意図していません。交換不可能なモデルに特に焦点を当てたテキストは次のとおりです。

• R.プラド、M。ウェスト：時系列：モデリング、計算、および推論（CRC 2010）–交換可能なモデルに既に精通している場合は、これが最近の良い出発点になるはずです。

• A.ポール、M。ウェスト、J。ハリソン：応用ベイズ予測と時系列分析（Springer 1994）

• E.グリーンバーグ：ベイズ計量経済学入門（ケンブリッジ2008）

• A.ゼルナー：計量経済学におけるベイジアン推論の紹介（Wiley 1996）

• GL Bretthorst：ベイジアンスペクトル分析とパラメーター推定（Springer 1988）http://bayes.wustl.edu/glb/bib.html

• GE Box、GM Jenkins、GC Reinsel、GM Ljung：時系列分析：予測と制御（Wiley 2016）、特にch。7

• W.パルマ：ロングメモリ時系列：理論と方法（Wiley 2007）、特にch。8

Bernardo＆Smithが§5.6.5で提供する時系列に関する多数の参照も参照してください。

帰納に関して、いくつかの洞察に満ちたテキストは次のとおりです。

• D.ヒューム：人間の性質の扱い：道徳的な主題に推論の実験的方法を導入する試みであること（Oxford 1896）https://archive.org/details/treatiseofhumann00hume_0、Book I、§III.VI

• WEジョンソン：確率：演繹的および帰納的問題、マインド41 n。164（1932）、409–423

• WEジョンソン：ロジック。パートII：実証的推論：演繹的および帰納的（Cambridge 1922）https://archive.org/details/logic02john、第VIII章以降

• WEジョンソン：ロジック。パートIII：科学の論理的基礎（Cambridge 1924）https://archive.org/details/logic03john、付録

• B. de Finetti：先見の明：その論理法則、その主観的情報源、Skykler、Kyburg：主観的確率の研究（Krieger 1980）、53-118ページ

• B. de Finetti：確率、帰納および統計：推測の技術（Wiley 1972）、第9章

• H・ジェフリーズ：確率論における現在の立場、ブリット。J.フィル サイエンス。5 n。20（1955）、275–289

• H.ジェフリーズ：科学的推論（ケンブリッジ1973）、chap。私

• H.ジェフリーズ：確率論（Oxford 2003）、§1.0

• ETジェーンズ：確率論：科学の論理（Cambridge 2003）http://www-biba.inrialpes.fr/Jaynes/prob.html、http：//omega.albany.edu：8008 / JaynesBook.html、http： //omega.albany.edu:8008/JaynesBookPdf.html、§9.4

表現定理から、交換可能性は基本的に、条件付きのIID形式（観測可能な値の相互相関を意味する）と同等の単なる操作条件であることがわかります。これが成り立たない場合は、条件付きIID形式と互換性のない問題の構造があることを意味します。これは、ある種の自己相関、または（等相関ではなく）別の次数ベースの相関形式、またはオブザーバブルのペア間で等しくない統計的依存関係を含むその他の種類の影響である可能性があります。