背の高い長方形行列による確率変数の線形変換

確率密度関数を持つ分布から引き出されたランダムなベクトルがあるとしましょう。我々は直線フルランク、それを変換した場合行列取得するその後の密度によって与えられる。 $\vec{X} \in \mathbb{R}^n$ $f_\vec{X}(\vec{x})$ $n \times n$ $A$ $\vec{Y} = A\vec{X}$ $\vec{Y}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{| det A |} f_{\vec{X}} (A^{- 1} \vec{y}) .

$f_{\vec{Y}}(\vec{y}) = \frac{1}{\left|\det A\right|}f_{\vec{X}}(A^{-1}\vec{y}).$

ここで、代わりに $\vec{X}$ を $m \times n$ 行列 $B$ で変換し、 $m > n$ 、 $\vec{Z} = B\vec{X}$ ます。明らかに $Z \in \mathbb{R}^m$ ですが、 $n$ 次元の部分空間に「住んでいます」 $G \subset \mathbb{R}^m$ 。の条件付き密度 $\vec{Z}$ は、あることがわかっているとすると、 $G$ 何ですか？

私の最初の本能は、疑似逆行列を使用することでした。場合の特異値分解であり、は、擬似逆行列であり、ここで、対角行列の非ゼロエントリ反転によって形成されている。これはここでとは、非ゼロの特異値の積を意味します。 $B$ $B = U S V^T$ $B$ $B^+ = V S^+ U^T$ $S^+$ $S$

f_{\vec{Z}} (\vec{z}) = \frac{1}{| \overset{+}{det} S |} f_{\vec{X}} (B^{+} \vec{z}),

$f_\vec{Z}(\vec{z}) = \frac{1}{\left|\det^+ S\right|} f_\vec{X}(B^+ \vec{z}),$

\overset{+}{det} S

$\det^+ S$

この推論は、与えられた（適切な部分空間上の変数の生活、その知識を条件）単数通常のための密度と一致しているここと述べ、ここもとに、このCrossValidatedポスト。

しかし、それは正しくありません！正規化定数はオフです。（些細な）反例は、次のケースを考慮して与えられます：で、ここで、上からの行列は1のベクトルです。その疑似逆行列はおよびです。上記の推論では、が、これは実際には（ライン）統合されます $X \sim \mathcal{N(0, 1)}$

\vec{Y} = (\begin{matrix} 1 \\ 1 \end{matrix}) X = (\begin{matrix} X \\ X \end{matrix}) .

$\vec{Y} = \begin{pmatrix}1 \\ 1\end{pmatrix} X = \begin{pmatrix}X \\ X\end{pmatrix}.$

B

$B$

B^{+} = (\begin{matrix} 1 / 2 & 1 / 2 \end{matrix})

$B^+ = \begin{pmatrix}1/2 & 1/2\end{pmatrix}$

\overset{+}{det} B = \sqrt{2}

$\det^+ B = \sqrt{2}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{\sqrt{2 π} \sqrt{2}} \exp (- \frac{1}{2} {\vec{y}}^{T} (B^{+})^{T} B^{+} \vec{y}),

$f_\vec{Y}(\vec{y}) = \frac{1}{\sqrt{2\pi}\sqrt{2}}\exp\left(-\frac{1}{2}\vec{y}^T (B^+)^T B^+ \vec{y}\right),$

y = x

$y = x$

\frac{1}{\sqrt{2}}

$\frac{1}{\sqrt{2}}$ 。この場合、

エントリの1つをドロップするだけで

\vec{Y}

$\vec{Y}$ 完了しますが、

B

$B$ が非常に大きい場合、ドロップするエントリのセットを特定するのは面倒です。疑似逆推論が機能しないのはなぜですか？「背の高い」行列による確率変数のセットの線形変換の密度関数の一般的な式はありますか？参考文献もいただければ幸いです。

— ダン
ソース

将来これに遭遇する可能性のある人にとって、エラーの原因は実際には統合に起因します。上記の例では、積分はラインます。したがって、軸の各単位ステップはライン上の長さステップに対応するため、ラインを「パラメータ化」し、積分を取る際にパラメータ化のヤコビアンを考慮する必要があります。私が暗黙的に使用していたパラメータ化は、によって与えられました。つまり、値によって同じエントリを両方とも指定しています。これは、ヤコビアン有するきれいでキャンセル、 $y = x$ $x$ $\sqrt{2}$ $x \mapsto (x, x)$ $\vec{y}$ $\sqrt{2}$ $\sqrt{2}$ （まったく同じヤコビアンからのもの）分母。

この例は人為的に単純でした。一般的な変換場合、問題のコンテキストで自然な出力の別のパラメーター化がある場合があります。パラメータ化は、同じ部分空間を覆う必要があるので、として、この部分空間を超平面であり、パラメータ自体がおそらく線形であることです。パラメータ化の行列表現を呼び出す場合の要件は、と同じ列スペースを持っている（同じ超平面をカバーする）ことだけです。次に、最終密度は $B$ $G$ $B$ $m \times n$ $L$ $B$

f_{\vec{Z}} (\vec{z}) = \frac{| \overset{+}{det} L |}{| \overset{+}{det} B |} f_{\vec{X}} (B^{+} \vec{z}) .

$f_{\vec{Z}}(\vec{z}) = \frac{\left|\det^+ L\right|}{\left|\det^+ B\right|}f_{\vec{X}}(B^+ \vec{z}).$

一般に、この設定はちょっと変わっています。正しいことは、の行の線形独立の最大のセットを見つけて、残りの行を（変換された変数対応するコンポーネントとともに）削除することです）正方行列を取得します。次に、問題はフルランクケースに減少します（にフルカラムランクがあると仮定）。 $B$ $\vec{z}$ $\hat B$ $n \times n$ $B$

— ダン
ソース