ハミルトニアンモンテカルロ（HMC）：ガウス分布の運動量変数の背後にある直感と正当性は何ですか？

私はMichael Betancourt教授による素晴らしい入門用HMCペーパーを読んでいますが、運動量の分布の選択についてどのようにしていくかについて理解が行き詰まっています。

概要

HMCの基本的な考え方は、運動量変数をターゲット変数と組み合わせて導入することです。それらは共同で位相空間を形成します。$p$$q$

保守的なシステムの総エネルギーは定数であり、システムはハミルトンの方程式に従う必要があります。したがって、位相空間の軌跡はエネルギーレベルに分解でき、各レベルはエネルギー特定の値に対応し、次を満たす点のセットとして説明できます。$E$

$H^{-1}(E) = \{(q, p) | H(q, p) = E\}$。

共同分布を推定したいので、を積分することにより、目的のターゲット分布ます。さらに、は、同等にとして記述できます。ここで、は、エネルギーの特定の値とは、そのエネルギーレベルの位置です。のP π （Q ）π （Q 、P ）π （θ $\pi(q, p)$$p$$\pi(q)$$\pi(q, p)$E θ $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E)$$E$$\theta_E$

$$\begin{equation} \pi(q, p)= \begin{cases} \pi(p \hspace{1.5pt} | \hspace{1.5pt} q) \hspace{1.5pt} \pi(q) \\ \pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E), \hspace{5pt} \text{microcanonical decomposition} \end{cases} \end{equation}$$

与えられた値に対して、ハミルトンの方程式の積分を実行して軌跡上のデータポイントを取得できるため、は比較的わかりやすい。ただし、は、運動量の指定方法に依存するトリッキーな部分であり、その結果、総エネルギー決まります。π （θ $E$π （E ）$\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E)$$\pi(E)$$E$

ご質問

私たちの目的はであるように見えますが、実際に推定できるのは、は、論文の図23に示されているように、にほぼ似ています。ただし、実際にサンプリングしているのはです。π （$\pi(E)$π （$\pi(E \hspace{1pt} | \hspace{1pt} q)$π （E ）π （$\pi(E \hspace{2pt} | \hspace{1pt} q)$$\pi(E)$$\pi(p \hspace{1pt} | \hspace{1pt} q)$

Q1：これは、、を簡単に計算して、推定できるためです？Eのπ （$\pi(p \hspace{1pt} | \hspace{1pt} q)$$E$$\pi(E \hspace{2pt} | \hspace{1pt} q)$

成り立つという仮定を立てるために、ガウス分布運動量を使用します。このペーパーでは2つの選択肢について言及しています。$\pi(E) \sim \pi(E | q)$

$$\begin{equation} \pi(p|q)= \begin{cases} \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, M) \hspace{5pt} \text{Euclidean-Gaussian kinetic energy} \\ \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, \Sigma(q)) \hspace{5pt} \text{Reimannian-Gaussian kinetic energy}, \end{cases} \end{equation}$$

ここで、はユークリッド計量と呼ばれる定数、別名質量行列です。D × $M$$D \times D$

最初の選択（ユークリッドガウス）の場合、質量行列は実際にはから独立しているため、サンプリングする確率は実際にはです。ガウス分布の運動量と共分散の選択は、と逆変換してボリュームを位相空間で一定にする必要があるため、ターゲット変数が共分散行列でガウス分布されていることを意味します。。Q π （P ）P M Q M - 1 P $M$$q$$\pi(p)$$p$$M$$q$$M^{-1}$$p$$q$

Q2：私の質問は、がどのようにガウス分布に従うと期待できるかです。実際には、は複雑な分布になる可能性があります。π （Q $q$$\pi(q)$

それはそんなに我々は後にしていることはありません、それは場合だけということですと似ていない、その後私たちの探査は、関連するエネルギーのすべてを探るために私たちができないことによって制限されます。したがって、実際にはと経験的推定は、比較ヒストグラムとE-BFMI診断の動機である、調査の潜在的な制限を特定するのに役立ちます。π （E ）π （E | q ）π （E ）π （E | q $\pi(E)$$\pi(E)$$\pi(E|q)$$\pi(E)$$\pi(E|q)$

では、2つの分布について何を知っていますか？ターゲット分布の次元数を増やすと、ソートの種類が増えてガウス分布に見えます。積分時間が十分に長い場合、レベルセットの探索は平衡になり、がガウスである場合、もますますガウスになる傾向があります。 π （p | q ）π （E | q $\pi(E)$$\pi(p | q)$$\pi(E|q)$

したがって、ガウスユークリッド運動エネルギーは良い出発点ですが、常に最適であるとは限りません。私は、スタンが悪いE-BFMI診断について怒鳴るモデルを当てはめるために、かなりの時間を費やしています。Aガウスリーマンの運動エネルギーは、位置に依存ログ決定など、多くのケースで有意に改善することができ作ることができますかなり多くのガウスのが、これはまだはるかにする研究があります問題を完全に理解するために行われました。π （E $\pi(p | q)$$\pi(E)$