マルコフ連鎖ベースのサンプリングは、モンテカルロサンプリングに「最適」ですか？利用可能な代替スキームはありますか？

マルコフ連鎖モンテカルロはマルコフ連鎖に基づく方法であり、サンプルを直接抽出できない非標準分布から（モンテカルロ設定で）サンプルを取得できます。

私の質問は、マルコフ連鎖がモンテカルロサンプリングにとって「最先端」である理由です。別の質問かもしれませんが、モンテカルロサンプリングに使用できるマルコフ連鎖のような他の方法はありますか？（少なくとも文献を見ると）MCMCには（（a）周期性、均一性、詳細なバランスなどの条件に関して）深い理論上のルーツがあることを知っていますが、Monteに「比較可能な」確率モデル/方法があるかどうか疑問に思っていますマルコフ連鎖に似たカルロサンプリング。

質問の一部を混乱させた場合（または全体的に混乱したように思われる場合）にご案内ください。

MCMCサンプリングが「最良の」モンテカルロ法であると述べる理由はありません！通常、それは少なくとも結果として生じるモンテカルロ推定量の分散の観点から、iidサンプリングよりも悪いです確かに、この平均予想に収束場合マルコフ連鎖の定常及び極限分布である、MCMC法を用いて、少なくとも2つの欠点があります。

1. チェーンは「定常性に達する」必要があります。、開始値を忘れる必要があります。言い換えると、はがから配布されるように「十分に大きい」必要があります。「十分な大きさ」は、実験の計算量を数桁超える場合があります。$X_0$$t$$X_t$$\pi$
2. 値は相互に関連しており、を含む漸近分散につながり 通常、を超えるため、iidサンプルよりも長いシミュレーションが必要です。$X_t$ $$\text{var}_\pi(X)+2\sum_{t=1}^\infty\text{cov}_\pi(X_0,X_t)$$ $\text{var}_\pi(X)$

つまり、MCMCは、特にシミュレーションされる確率変数の次元のために、定期的なiidサンプリングが不可能またはコストがかかりすぎ、重要度サンプリングの調整が非常に難しい設定を処理するのに非常に役立ちます。

ただし、粒子フィルターのような逐次モンテカルロ法は、動的モデルではより適切な場合があり、データは即時の注意を必要とするバーストによって取得され、しばらくすると消える（つまり、保存できない）場合さえあります。

結論として、MCMCは、通常のモンテカルロソリューションが失敗する複雑な設定を処理するための非常に便利な（そして非常によく使用される）ツールです。

分布からランダムな値を生成する方法はいくつかありますが、McMCはそれらの1つですが、他のいくつかもモンテカルロ法（マルコフ連鎖部分なし）と見なされます。

単変量サンプリングの最も直接的な方法は、一様確率変数を生成し、これを逆CDF関数に接続することです。これは、逆CDFがある場合はうまく機能しますが、CDFまたはその逆、あるいはその両方を直接計算するのが難しい場合は、面倒です。

多変量問題の場合、コピュラからデータを生成し、生成された値に対して逆CDFメソッドを使用して、変数間にある程度の相関を持たせることができます（ただし、コピュラに正しいパラメーターを指定して、必要な相関のレベルを得るには、試行錯誤）。

棄却サンプリングは、CDFまたはその逆を知る必要がない（そして密度関数の正規化定数も必要ない）分布（単変量または多変量）からデータを生成するために使用できる別のアプローチです。しかし、これは多くの時間を要するいくつかのケースでは非常に非効率的です。

ランダムポイントではなく、生成されたデータの概要に興味がある場合は、重要度サンプリングが別のオプションです。

McMCサンプリングの形式であるギブスサンプリングでは、他の変数が与えられた各変数の条件付き分布がわかっている限り、多変量分布の正確な形式がわからない場合でもサンプリングできます。

他にもありますが、それはあなたが知っていることと知らないこと、および特定の問題の他の詳細に依存します。McMCは、多くの状況でうまく機能し、さまざまなケースに一般化できるため、人気があります。