確率的推論とは何ですか？

クリスビショップのパターン認識と機械学習の教科書を読んでいます。確率的推論という用語に何度か出くわしました。いくつか質問があります。

確率論的推論はグラフィカルモデリングのコンテキストでのみ適用できますか？
従来の統計的推論（p値、信頼区間、ベイズ係数など）と確率論的推論の違いは何ですか？
これはCSコミュニティに固有の用語ですか、それとも統計コミュニティでも広く使用されていますか？

— 離散時間
ソース

私の意見では、これは統計が確率論的モデリングに基づいているという事実を再現する派手な額面（およびoxymoron）にすぎません。

— 西安

@ Xi'anに感謝します。私の論文とプレゼンテーションでは、統計的推論を引き続き使用します。

— discretetimeisnice

回答:

確率論的推論では、確率論的モデル、つまり確率論と確率分布の観点から統計的問題を記述するモデルを使用します。統計は確率論をかなり頻繁に使用しますが、これらの2つの分野が同じものであるとは言えません（このスレッドの説明を確認してください）。多くの統計および機械学習方法が明示的にいくつかの損失関数などしかし、区別を最小化することにより、作業は簡単で、一例として取ることではないことの問題、例えば多くのクラスタリングアルゴリズム、または分類方法を定義するために確率論を使用していないことに注意してくださいおおよそのベイズ計算 -理論的にはベイジアン（確率的）推論に基づいていますが、尤度関数がない場合を扱うため、代わりに距離測定を使用します。

— ティム
ソース

（+1）：確率論的モデリング以外で統計を分類しないので、区別に自信がなくなります。統計の本質的な信条は不確実性の評価を含めることであり、この不確実性は確率論的構造によってモデル化する必要があることを考えると、統計がこのフレームワークからどのように逸脱しているかはわかりません。

— 西安

ABCリンクにも反対します。それが言及されているのを見るのは良いことですが、ABCは反対に確率論的モデリングの良い例です。これは、与えられた確率論的モデルに従ってランダムサンプルの正確な生成を複製するからです。尤度関数が数値的に計算できないということは、確率モデルが存在しないことを意味するのではなく、別の観点から考慮しなければならないということだけです。

— 西安

@ Xi'an私はあなたのコメントに同意しますが、確率モデルと非確率モデルをそのように区別したい場合は、上記のように定義できます。それにもかかわらず、あなたが与えた理由から、その区別は非常に抽象的な曖昧で、多くの場合役に立たないものです。ABCについては、状況がぼやけて区別が曖昧になる場合の例にすぎません。

— Tim

「損失関数を最小化することで機能する分類方法」では、確率モデルとして定式化できなかった方法の例を提供できますか？

— nbro

@nbro「明示的に使用しないでください...」と言いましたが、このように定式化することはできません。

— Tim

私の大学での確率的グラフィカルモデル（PGM）の学習経験と、PGM教師が確率論的推論を定義した方法からの質問にお答えします。このクラスの内容が[1]に基づいていることを知っていれば、この本でより正確な答えを見つけることができると思います。

2：への回答で は、確率的推論は統計的推論の一種です。[2]と[3]から、統計的推論は、人口について統計的命題を作成します。これには、ポイント推定、区間推定、仮説の棄却、クラスタリング、および分類が含まれます。「確率論的推論」が導入され、PGMコンテキストで確率関数の周辺化タスクとして大まかに定義されました。周辺確率計算であるか、最も可能性の高い結果（分類など）を見つけるかは関係ありません。したがって、人口の根本的な確率分布に関する命題を作成することとして、統計的推論の定義に入ります。

PGMのコンテキストで周辺化タスクを数学的に説明するには、 $\mathcal{X} = \{X_1, \ldots, X_n\}$ 確率変数のセットである。特定のベイジアンネットワーク $(\mathscr{G}, \mathbb{P}_{\theta})$ またはマルコフネットワーク $(\mathscr{H}, \mathbb{P}_{\theta})$ と $\mathbb{P}_\theta$ の場合、次のルーチンは確率的推論と見なされます。

周辺確率または条件付き確率の計算： $\mathbf{E}, \mathbf{X} \subset \mathcal{X}$ 、私たちは答えたいです：
$P_{θ} (X = x ∣ E = e) = ? .$ $\mathbb{P}_\theta(\mathbf{X} = \mathbf{x} \mid \mathbf{E} = \mathbf{e}) = ~?.$
最もありそうな実現： $\mathbf{E}, \mathbf{X} \subset \mathcal{X}$ 、私たちは答えたいです：
$a r g min_{x} P_{θ} (X = x ∣ E = e) = ? .$ ${\rm arg}\min_{\!\!\!\!\!\!\!\!\mathbf{x}}\mathbb{P}_\theta(\mathbf{X} = \mathbf{x} \mid \mathbf{E} = \mathbf{e}) = ~?.$

1と3への回答：この用語を初めて見た。確率に直接関連する質問について推論するため、この用語は意味があります。CSでのみ使用されるのか、PGMコンテキストでのみ使用されるのかについては、お答えできません。

[1]コラー、ダフネ、およびニルフリードマン。2009.確率的グラフィカルモデル：原則と手法。MIT Press。
[2] https://en.wikipedia.org/wiki/Statistical_inference
[3] https://encyclopediaofmath.org/wiki/Statistical_inference

— ジュリアン
ソース