RパッケージMHadaptiveに実装されている適応型Metropolis Hastingsアルゴリズムはどれですか?


7

アダプティブメトロポリスヘイスティングスアルゴリズムには複数のバージョンがあります。1つはパッケージの関数Metro_Hastingsに実装されていますここを参照してください。そこにリストされている参考文献、Spiegelhalter et al。(2002)、残念ながら、私が知る限り、適応アルゴリズムの説明は含まれていません。ただし、このアルゴリズムは、検討するモデルの事後分布からのサンプリングで非常にうまく機能するため、その詳細を理解したいと思います。RMHadaptiveMetro_Hastings

アルゴリズムを少しリバースエンジニアリングしました。誰かがこの適応型MHアルゴリズムを認識していますか?これはそれがすることです:

してみましょう目標濃度であること。初期化します。θ 0 私は= 0をΣqθ0,i=0,Σ

以下のため回の繰り返しを実行します。{ iが= 1 n }n{i=1,...,n}

  1. 提案します。θ1N(θ1|θ0,i1,Σ)
  2. 確率を受け入れます。受け入れる場合は、\ theta_ {0、i}:= \ theta_1を設定します。拒否する場合:\ theta_ {0、i}:= \ theta_ {0、i-1}θ1A=min{1,q(θ1)/q(θ0,i)}θ0,i:=θ1θ0,i:=θ0,i1

場合i=jjベクターは、任意の要素ように定義されたj>x(デフォルトx=100)の間隔が存在するy要素間の反復(デフォルトのy=20)、およびno素子j>z(デフォルトz=0.75n)、行う:

  1. 選択θ~={θ0k,...,θ0,i}(デフォルトk=0.5i)。
  2. 更新:Σ:=S(θ~)ここで、Sは多変量正規性を仮定して\ tilde {\ theta}の分散共分散行列の最尤推定量ですθ~

手順1と2は標準のMHです。ステップ3および4は、ステップで発生する適応であり、過去の反復の共分散行列にを更新するために過去の反復を使用します。jjkΣ


1
ばかげた質問で申し訳ありませんが、パッケージの所有者(1人目)とDavid Spiegelhalter(2人目)に連絡を取ろうとしましたか?パッケージの所有者は数年前にマギルを去ったため、パッケージ内の電子メールアドレスが監視されなくなった可能性は十分にあります。ただし、ほんの少しのGoogle-fuで、彼の現在の連絡先を簡単に見つけることができます(もちろん、彼が望んでいるかどうかわからないので、ここでは共有しません)。彼と連絡が取れない場合、David Spiegelhalterは本当にいい人です。メールを送れば、彼はあなたに答えると思います。
DeltaIV

@DeltaIV私は彼に連絡しましたが、返事はありませんでした。代わりにSpiegelhalterへの書き込みを検討していません。彼は単に引用されているだけで(誤ってimho)、彼がパッケージについてまったく知っているかどうかはわかりません。パッケージに記載されているメールアドレスで著者に連絡しました。それは見たところまだ活発であり、それゆえ私は彼を他の場所で見つけることを考えていません。これやってみます
tomka 2017年

Spiegelhalterがパッケージについて知っているとは思えないことに同意します。そのため、最初にパッケージ所有者に連絡することを提案しました。しかし、彼はあなたが説明するアルゴリズムについて知っているかもしれません(あなたが疑っているように彼が誤って引用された場合はそうでないかもしれません)。質問への回答が得られた場合はお知らせください。
DeltaIV 2017年

1
@DeltaIV私は彼の現在の教育機関ではメールアドレスを特定できません。あなたが私にそれを指摘することができない限り、私はおそらくこれをここに残す必要があります。
tomka 2017年

確かに、チャットでこれを議論しましょう。手伝いたいのは明らかですが、パッケージの所有者のプライバシーについて心配していただけです。
DeltaIV 2017年

回答:


1

あなたの説明は、Haario et al(1999)の適応アルゴリズムのように聞こえます。確かに、最近のサンプルの固定数を使用して提案分布の共分散行列を更新するという考えがあります。

Haario et al(1999)で説明されているアルゴリズムはうまく機能しますが、エルゴードではないことに注意してください。Haario et al(2001)は、エルゴード的である改善されたアルゴリズムについて説明しました。そこにある考えは、過去のすべてのサンプルを使用して提案分布の共分散行列を更新することです。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.