MCMCを使用して高次元関数の期待値を評価する

私は最適化に関連する研究プロジェクトに取り組んでおり、最近この設定でMCMCを使用することを考えていました。残念ながら、私はMCMCメソッドにかなり慣れていないため、いくつか質問がありました。問題を説明し、質問をすることから始めます。

問題は、コスト関数の期待値を推定することになります。ここで、は、密度次元確率変数です。 $c(\omega)$ $\omega = (\omega_1,\omega_2,...\omega_h)$ $h$ $f(\omega)$

私たちの場合、閉じた形式のバージョンは存在しません。つまり、期待値を近似するにはモンテカルロ法を使用する必要があります。残念ながら、MCまたはQMCメソッドを使用して生成された推定値は、実際の設定で使用するには分散が大きすぎることがわかります。 $c(\omega)$ $E[c(\omega)]$

低分散推定を生成するサンプルポイントを生成するために重要度サンプリング分布を使用する必要があったという1つのアイデア。私たちの場合、理想的な重要度のサンプリング分布、ほぼ比例している必要があります。どのように見て定数まで知られている、私は私が提案配布とともにMCMCを使用できるかどうかを疑問に思って、最終的にサンプルを生成するために。 $E[c(\omega)]$ $g(\omega)$ $c(\omega)f(\omega)$ $g(\omega)$ $c(\omega)f(\omega)$ $g(\omega)$

ここに私の質問は次のとおりです。

この設定でMCMCを使用できますか？もしそうなら、どのMCMC法が適切でしょうか？私はMATLABで作業しているので、MATLABが既に実装されているものを優先します。
MCMCのバーンイン期間を短縮するために使用できるテクニックはありますか？そして、どのように私は定常分布に達したことを知ることができますか？この場合、実際には、特定のを計算するのにかなりの時間がかかります。 $c(\omega)$ $\omega$

— バークU
ソース

最後の段落のタイプミス？

ではなく

？

C (w)

$C(w)$

c (w)

$c(w)$

— mpiktas 2011年

閉形式が存在しないという理由だけで、高次元の積分にモンテカルロ法を使用する必要はありません。あなたは可能性に基づく方法を使用し、疎グリッド。私は長所と短所を私自身も知りません。

— ワンストップ2011年

@onestop-私の場合は、まばらなグリッドが少しうまく機能しますが、このアイデアもテストしてみたいと思います。

— バークU.

金融のようですね。

— ウォック

ファイナンスにも応用できます。電力システムの最適な管理のために使用しています:)

— Berk U.

回答:

MCMCは単なる数値統合ツールであることを覚えています（その点では、かなり非効率的なツールです）。それは魔法/神秘的なものではありません。適度に簡単に適用できるのでとても便利です。他のいくつかの数値積分手法と比較して、それは多くの考えを必要としません。たとえば、派生物を作成する必要はありません。「乱数」を生成するだけです。

ただし、他の数値積分手法と同様に、すべてを網羅する汎用的なツールではありません。役に立つときと役に立たないときがあります。

$h$ $h$

$\omega$ $f(\omega)$ $\omega\rightarrow\omega_{max}$

$f(\omega)\approx f(\omega_{max})+(\omega-\omega_{max})f'(\omega_{max})+\frac{1}{2}(\omega-\omega_{max})^{2}f''(\omega_{max})+\dots$

$\omega$

エドウィン・ジェインズはこれについて素晴らしい引用をしています：

何かを行うためのランダム化された方法がある場合は常に、より良い結果をもたらすが、より多くの思考を必要とする非ランダム化された方法があります

「もっと考える」方法の1つは、「層別MCMC」を使用して積分を行うことです。したがって、「ランダムに」ではなく、パラメータ空間全体からスポットを選択します。それを「階層」に分割します。これらの「層」は、積分の高い部分の適切な範囲が得られるように選択する必要があります。次に、各階層内でランダムにサンプリングします。しかし、これには私が想像する（つまり、もっと考える）独自のコードを記述する必要があります。

— 確率論的
ソース

投稿ありがとうございます。私はあなたの層別MCのアイデアがとても好きです。私がそれを読むことができるように、あなたがその上にあるリソースについて知っているかどうか疑問に思っていましたか？例が動作しているものはすべていただければ幸いです。

— バークU.

これは私が持っていたアイデアなので、どんなリソースも知りません。階層を定義する別のレイヤーを追加することで、MCMCフレームワークに組み込むことができます。そして、私の主な弱点の1つは何かをしていることです-私は根本的に思想家です！お役に立てないことは承知しております。でも、これを考えたのは私だけではない。「設計ベースの」統計と「ベイジアン統計」を実行したことがある人なら、きっとこれを考えたことでしょう。

— probabilityislogic

ここでの変数が相関していることを示すものは何もないため、通常のモンテカルロとは対照的に、MCMCを使用する理由がわかりません。前述の層別サンプリング（ラテンハイパーキューブ）やQMCなど、さまざまなサンプリング方法があります。スパース求積法グリッドは幾何学的に（次元の呪い）成長するため、問題の次元が高すぎない（10以下）場合、スパース求積法は非常に優れています。

しかし、重要性のサンプリングに関しては、順調に進んでいるようです。ここで重要なのは、関心のある領域の近くに大きな確率が集中し、名目上の分布よりも裾が厚い、偏った分布を選択することです。

これは未解決の研究問題であることを付け加えたいので、もしあなたが何か良いものを思いつくことができれば、それはコミュニティにとって大きな関心事になるでしょう！

— ゲイリー
ソース

これをありがとう！MCMCの有効性と変数間の相関関係についてもう少し詳しく説明してもらえますか？変数が相関している場合、MCMCは既存の数値積分手法よりも優れていると常に考えていましたが、そうする理由はありません。

— バークU.

$g(\omega)$

さらに、MC統合フィールドで分散低減技術を調べたい場合があります。自己完結型の優れたリソースセットは、スタンフォードのArt Owenから入手できる無料の本の章です。具体的には、第8章、第9章、および第10章。

そこでは、アダプティブサンプリング、再帰、およびその他の手法の詳細な処理が見つかります。

— Jナイト
ソース