与えられたMLEでランダムサンプルをシミュレートする

一定の金額を持っていることを条件とするサンプルのシミュレーションについて尋ねるこの相互検証された質問は、ジョージ・カセラによって私に設定された問題を思い出させました。

パラメトリックモデルとこのモデルのiidサンプルが与えられると、のMLEは与えられます指定された値のに対して、iidサンプルをシミュレートする一般的な方法がありますMLE の値を条件としていますか？ $f(x|\theta)$ $(X_1,\ldots,X_n)$ $\theta$
$\hat{θ} (x_{1}, \dots, x_{n}) = \arg min \sum_{i = 1}^{n} \log f (x_{i} | θ)$ $\hat{\theta}(x_1,\ldots,x_n)=\arg\min \sum_{i=1}^n \log f(x_i|\theta)$ $\theta$ $(X_1,\ldots,X_n)$ $\hat{\theta}(X_1,\ldots,X_n)$

たとえば、位置パラメーターで $\mathfrak{T}_5$ 分布を、その密度は If 条件としてをシミュレートするにはどうすればですか？この例では、の分布には閉じた形式の式はありません。 $\mu$

f (x | μ) = \frac{Γ (3)}{Γ (1 / 2) Γ (5 / 2)} {[1 + (x - μ)^{2} / 5]}^{- 3}

$f(x|\mu)=\dfrac{\Gamma(3)}{\Gamma(1/2)\Gamma(5/2)}\,\left[1+(x-\mu)^2/5\right]^{-3}$

(X_{1}, \dots, X_{n}) \overset{iid}{\sim} f (x | μ)

$(X_1,\ldots,X_n)\stackrel{\text{iid}}{\sim} f(x|\mu)$

(X_{1}, \dots, X_{n})

$(X_1,\ldots,X_n)$

\hat{μ} (X_{1}, \dots, X_{n}) = μ_{0}

$\hat{\mu}(X_1,\ldots,X_n)=\mu_0$

T_{5}

$\mathfrak{T}_5$

\hat{μ} (X_{1}, \dots, X_{n})

$\hat{\mu}(X_1,\ldots,X_n)$

— 西安
ソース

1つのオプションは、Brubaker et al（1）による暗黙的に定義された多様体上のMCMCメソッドのファミリーで説明されているように、制約付きHMCバリアントを使用することです。このためには、ロケーションパラメーターの最尤推定値が、暗黙的に定義された（微分可能な）ホロノミック制約として固定された等しいという条件を表現できる必要があります。次に、この制約を受ける制約付きハミルトニアン動的対象をシミュレートし、標準HMCのようにMetropolis-Hastingsステップ内で受け入れ/拒否することができます。 $\mu_0$ $c\left(\lbrace x_i \rbrace_{i=1}^N\right) = 0$

負の対数尤度はは、場所パラメーターそして、最尤推定値は、次の解として暗黙的に定義されます。

L = - \sum_{i = 1}^{N} [\log f (x_{i} | μ)] = 3 \sum_{i = 1}^{N} [\log (1 + \frac{(x_{i} - μ)^{2}}{5})] + constant

$\mathcal{L} = -\sum_{i=1}^N \left[ \log f(x_i \,|\, \mu) \right] = 3 \sum_{i=1}^N \left[ \log\left(1 + \frac{(x_i - \mu)^2}{5}\right)\right] + \text{constant}$

μ

$\mu$

\frac{\partial L}{\partial μ} = 3 \sum_{i = 1}^{N} [\frac{2 (μ - x_{i})}{5 + (μ - x_{i})^{2}}] and \frac{\partial^{2} L}{\partial μ^{2}} = 6 \sum_{i = 1}^{N} [\frac{5 - (μ - x_{i})^{2}}{{(5 + (μ - x_{i})^{2})}^{2}}] .

$\frac{\partial \mathcal{L}}{\partial \mu} = 3 \sum_{i=1}^N \left[ \frac{2(\mu - x_i)}{5 + (\mu - x_i)^2}\right] \quad\text{and}\quad \frac{\partial^2 \mathcal{L}}{\partial \mu^2} = 6 \sum_{i=1}^N \left[\frac{5 - (\mu - x_i)^2}{\left(5 + (\mu - x_i)^2\right)^2}\right].$

μ_{0}

$\mu_0$

c = \sum_{i = 1}^{N} [\frac{2 (μ_{0} - x_{i})}{5 + (μ_{0} - x_{i})^{2}}] = 0 subject to \sum_{i = 1}^{N} [\frac{5 - (μ_{0} - x_{i})^{2}}{{(5 + (μ_{0} - x_{i})^{2})}^{2}}] > 0.

$c = \sum_{i=1}^N \left[ \frac{2(\mu_0 - x_i)}{5 + (\mu_0 - x_i)^2}\right] = 0 \quad\text{subject to}\quad \sum_{i=1}^N \left[\frac{5 - (\mu_0 - x_i)^2}{\left(5 + (\mu_0 - x_i)^2\right)^2}\right] > 0.$

特定のに対して一意のMLEがあることを示唆する結果があるかどうかはません-の密度は対数凹ではないので、これを保証するのは簡単です。単一独自のソリューションは、上記存在する場合、暗黙的に接続された定義に埋め込ま次元マニホールドのセットに対応するためのMLEとを等しいです $\mu$ $\lbrace x_i \rbrace_{i=1}^N$ $\mu$ $N - 1$ $\mathbb{R}^N$ $\lbrace x_i \rbrace_{i=1}^N$ $\mu$ $\mu_0$ 。複数の解がある場合、多様体は複数の非接続コンポーネントで構成され、その一部は尤度関数の最小値に対応する可能性があります。この場合、非接続コンポーネント間を移動するための追加のメカニズムが必要になり（シミュレートされたダイナミクスは通常単一のコンポーネントに限定されるため）、2次条件を確認し、移動に対応する場合は移動を拒否します可能性の最小値。

我々が使用している場合ベクトル示すためにと共役運動量状態導入質量行列ととラグランジュをスカラー制約乗数次にODEのシステムの解 $\boldsymbol{x}$ $\left[ x_1 \dots x_N\right]^{\rm T}$ $\boldsymbol{p}$ $\mathbf{M}$ $\lambda$ $c(\boldsymbol{x})$

\frac{d x}{d t} = M^{- 1} p, \frac{d p}{d t} = - \frac{\partial L}{\partial x} - λ \frac{\partial c}{\partial x} subject to c (x) = 0 and \frac{\partial c}{\partial x} M^{- 1} p = 0

$\frac{{\rm d}\boldsymbol{x}}{{\rm d}t} = \mathbf{M}^{-1}\boldsymbol{p}, \quad \frac{{\rm d}\boldsymbol{p}}{{\rm d}t} = -\frac{\partial \mathcal{L}}{\partial \mathbf{x}} - \lambda \frac{\partial c}{\partial \boldsymbol{x}} \quad\text{subject to}\quad c(\boldsymbol{x}) = 0 \quad\text{and}\quad \frac{\partial c}{\partial \boldsymbol{x}}\mathbf{M}^{-1}\boldsymbol{p} = 0$ 初期条件を指定 with and、は、制約多様体に限定されたままで、時間可逆であり、ハミルトニアンと多様体体積要素を正確に保存する制約付きハミルトニアン力学を定義します。ラグランジュ乗数を解くことにより各タイムステップで制約を正確に維持するSHAKE（2）やRATTLE（3）などの制約付きハミルトニアンシステムにシンプレクティック積分器を使用する場合、正確な動的離散タイムステップシミュレートできます。

x (0) = x_{0}, p (0) = p_{0}

$\boldsymbol{x}(0) = \boldsymbol{x}_0,~\boldsymbol{p}(0) = \boldsymbol{p}_0$

c (x_{0}) = 0

$c(\boldsymbol{x}_0) = 0$

{\frac{\partial c}{\partial x} |}_{x_{0}} M^{- 1} p_{0} = 0

$\left.\frac{\partial c}{\partial \boldsymbol{x}}\right|_{\boldsymbol{x}_0}\,\mathbf{M}^{-1}\boldsymbol{p}_0 = 0$

L

$L$

δ t

$\delta t$ を満たすいくつかの初期制約から、確率、提案された新しい状態ペアを受け入れますこれらのダイナミクスの更新をインターリーブすると、ガウス周辺からの運動量の部分的/完全なリサンプリング（

x, p

$\boldsymbol{x},\,\boldsymbol{p}$

x^{'}, p^{'}

$\boldsymbol{x}',\,\boldsymbol{p}'$

min {1, \exp [L (x) - L (x^{'}) + \frac{1}{2} p^{T} M^{- 1} p - \frac{1}{2} p^{' T} M^{- 1} p^{'}]} .

$\min\left\lbrace 1, \,\exp\left[ \mathcal{L}(\boldsymbol{x}) - \mathcal{L}(\boldsymbol{x}') + \frac{1}{2}\boldsymbol{p}^{\rm T}\mathbf{M}^{-1}\boldsymbol{p} - \frac{1}{2}\boldsymbol{p}'^{\rm T}\mathbf{M}^{-1}\boldsymbol{p}'\right] \right\rbrace.$

\frac{\partial c}{\partial x} M^{- 1} p = 0

$\frac{\partial c}{\partial \boldsymbol{x}}\mathbf{M}^{-1}\boldsymbol{p} = 0$ ）次に、複数の非接続制約マニホルドコンポーネントがある可能性をモジュロし、MCMC全体のダイナミクスはエルゴードであり、構成状態サンプルは、制約マニホルドに制限されたターゲット密度への分布をカバーします。

x

$\boldsymbol{x}$

ここでケースに対して制約付きHMCがどのように実行されるかを確認するために、（4）で説明し、ここでGithub で利用可能な測地線積分器ベースの制約付きHMC実装を実行しました（完全開示：（4）の作成者であり、Githubリポジトリの所有者です）（5）で提案された「ジオデシックBAOAB」積分スキームのバリエーションを使用し、確率的Ornstein-Uhlenbeckステップを使用しません。私の経験では、この測地線統合スキームは一般に、制約多様体の測地線運動に複数の小さな内部ステップを使用する柔軟性が高いため、（1）で使用されるRATTLEスキームよりも調整が少し簡単です。結果を生成するIPythonノートブックはこちらから入手できます。

私が使用される、および。 MLEに対応する初期は、ニュートンの方法で検出されました（尤度の最大値が検出されたことを確認するために2次微分がチェックされました）。、で1000回の更新に対して完全な運動量更新をインターリーブした制約付きダイナミックを実行しました。以下のプロットは、3つのコンポーネントの結果のトレースを示しています $N=3$ $\mu=1$ $\mu_0=2$ $\boldsymbol{x}$ $\mu_0$ $\delta t = 0.5$ $L=5$ $\boldsymbol{x}$

3Dの例のトレースプロット

負の対数尤度の1次および2次導関数の対応する値を以下に示します

対数尤度微分トレースプロット

ここから、サンプリングされたすべてのの対数尤度が最大になっていることがわかります。個々のトレースプロットからは明らかではありませんが、サンプリングされたは埋め込まれた2D非線形多様体上にあります-以下のアニメーションは3Dのサンプルを示しています $\boldsymbol{x}$ $\boldsymbol{x}$ $\mathbb{R}^3$

2Dマニホールドに限定されたサンプルの3D可視化

制約の解釈によっては、（4）で説明されているように、ヤコビアン係数によってターゲット密度を調整する必要がある場合もあります。特に、ABCのようなアプローチを使用して制約のない動きを提案し、ifを受け入れることで制約をほぼ維持する制限と一致する結果が必要な場合、次にターゲット密度にを掛ける必要があります。上記の例では、この調整を含めなかったため、サンプルは制約多様体に制限された元のターゲット密度からのものです。 $\epsilon \to 0$ $\mathbb{R}^N$ $|c(\boldsymbol{x})| < \epsilon$ $\sqrt{\frac{\partial c}{\partial \boldsymbol{x}}^{\rm \scriptscriptstyle T}\frac{\partial c}{\partial \boldsymbol{x}}}$

参照資料

ブルバーカー、M。ザルツマン、R。ウルタスン。暗黙的に定義された多様体上のMCMCメソッドのファミリー。では人工知能と統計上の第15回国際会議の議事録、2012年
http://www.cs.toronto.edu/~mbrubake/projects/AISTATS12.pdf
J.-P. Ryckaert、G。Ciccotti、およびHJ Berendsen。制約付きシステムのデカルト運動方程式の数値積分：n-アルカンの分子動力学。Journal of Computational Physics、1977年
。http：//citeseerx.ist.psu.edu/viewdoc/summary？doi = 10.1.1.399.6868
HCアンデルセン。RATTLE：分子動力学計算用のSHAKEアルゴリズムの「速度」バージョン。Journal of Computational Physics、1983。http
：//www.sciencedirect.com/science/article/pii/0021999183900141
MMグラハムとAJ Storkey。尤度のないモデルにおける漸近的に正確な推論。arXivのプレプリントarXivの：1605.07826v3、2016年
https://arxiv.org/abs/1605.07826
B.ライムクーラーおよびC.マシューズ。測地線統合と溶媒と溶質の分離を使用した効率的な分子動力学。手続き R. Soc。A. Vol。472. No.2189。王立協会、2016年
。http：//rspa.royalsocietypublishing.org/content/472/2189/20160138.abstract

— マット・グラハム
ソース

輝かしく開放的な新しいパースペクティブ！ありがとうございました。

— 西安