ランダム

次の質問があります。

私は2人の行列があると$X, Y$両方のサイズの$m\times p$とランダムIIDガウス行列$G$のサイズの$m \times k$、$m\gg p>k$。

を計算する高速な方法はあり$\exp(-XY^T)G$ますか？おそらく、$X$と両方$Y$がよりはるかに小さいという事実を使用することによって$XY^T$？ここで、$\exp(\cdot)$は、エントリごとの（つまり、行列の$\textbf{each}$エントリの）指数を意味します。明らかに、指数がなければ、それは簡単で、単純に$X(Y^TG)$で実行できますが、問題は、要素単位の指数がもはや低ランクではないことです。

質問の動機は、フォームのカーネルを乗算することです

$D_{ij}=\exp(-d_{ij})$または$D_{ij}=\exp(-d_{ij}^2)$

$d_{ij}=\Vert x_i-y_j \Vert$及び効率的にランダム行列による。$x_i, y_i \in \mathbb{R}^p$

近似解も問題ありません。

近似値で十分ならば、多分私達は開発することによって始めることができる次のように演算子を： EXP （Z ）= ∞ Σの K = 0 Zの$\exp$ 力の用語は、要素ごとの表記に従い、アダマールの力を指し、標準的な規則を少し乱用していることに注意してください。

$$\exp(Z) = \sum\limits_{k=0}^{\infty} \frac{Z^k}{k!} = 1+Z+\frac{Z^2}{2} + \frac{Z^3}{6} + \frac{Z^4}{24} + ...$$

これは式を書き直す可能性を与えます： ここで、Iは適切なサイズの単位行列です。1次の近似で対処できる場合、次のようになります 。exp（−XYT）

$$\begin{align} \exp{(-XY^T)}G &= \Big(I-XY^T+\frac{(XY^T)^2}{2} - \frac{(XY^T)^3}{6} + \frac{(XY^T)^4}{24} - ...\Big)G \\ &=G-XY^TG+\frac{(XY^T)^2G}{2} - \frac{(XY^T)^3G}{6} + \frac{(XY^T)^4G}{24} - ... \end{align}$$ $I$ 簡単操作で得られました。より高次の近似については、アダマールパワーの解を計算する必要があります。これはおそらく少し難しいか、私はまだ直接の解を見ていません。 $$\begin{align} \exp{(-XY^T)}G &= G-XY^TG+ O(max(|XY^T|)^2)\\ &\approx G-XY^TG = G-X(Y^TG) \end{align}$$