「固有」が行列の反転にどのように役立つかを説明する

私の質問は、geoR:::.negloglik.GRFまたはで悪用された計算技術に関するものgeoR:::solve.geoRです。

線形混合モデルのセットアップ： ここで、とはそれぞれ固定効果とランダム効果です。また、β B Σ = COV （Y

$$Y=X\beta+Zb+e$$ $\beta$$b$$\Sigma=\text{cov}(Y)$

影響を推定する場合、計算する必要がある 通常のようなものを使用して行うことができ、時にははほとんど可逆的ではないので、トリックを使用してください（X ' Σ - 1 X

$$(X'\Sigma^{-1}X)^{-1}X'\Sigma^{-1} Y$$ solve(XtS_invX,XtS_invY)$(X'\Sigma^{-1}X)$geoR

t.ei=eigen(XtS_invX)
crossprod(t(t.ei$vec)/sqrt(t.ei$val))%*%XtS_invY

（に見られるgeoR:::.negloglik.GRFとgeoR:::.solve.geoR）分解に達した したがって

$$(X'\Sigma^{-1}X)=\Lambda D \Lambda^{-1}\\ $$ $\Lambda'=\Lambda^{-1}$ $$(X'\Sigma^{-1}X)^{-1}=(D^{-1/2}\Lambda^{-1})'(D^{-1/2}\Lambda^{-1})$$

2つの質問：

1. この固有分解は反転にどのように役立ちますか？$(X'\Sigma^{-1}X)$
2. 他の実行可能な代替手段（堅牢で安定したもの）はありますか？（例：qr.solveまたはchol2inv）

1）固有分解はそれほど役に立ちません。確かに、コレスキー分解よりも数値的に安定です。これは、行列の条件が悪い/ほぼ特異である/条件数が高い場合に役立ちます。だから、固有値分解を使用することができますし、それはあなたを与えるだろうあなたの問題を解決します。しかし、それが正しいソリューションになるという保証はほとんどありません。正直なところ、明示的にΣを反転すると、損傷はすでに完了しています。形成X T Σを- 1 Xは、単に問題を悪化させます。固有分解は戦闘に勝利するのに役立ちますが、戦争は間違いなく失われます。$\Sigma$$X^T \Sigma^{-1} X$

2）あなたの問題の詳細を知らずに、これは私がすることです。まず、上のコレスキー分解を実行ようΣ = L L T。その後にQR分解を行うL - 1 XようにL - 1 X = Q R。必ず前方置換を使用してL − 1 Xを計算してください- 明示的にLを反転しないでください。だから、あなたが得る： X T Σ - 1 X = X T（$\Sigma$$\Sigma = L L^T$$L^{-1} X$$L^{-1} X = QR$$L^{-1} X$$L$ ここから、必要な右側を解くことができます。ただし、R（またはRTR）を明示的に反転しないでください。必要に応じて、前方および後方置換を使用します。

$$\begin{array}{} X^T \Sigma^{-1} X & = & X^T (L L^T)^{-1} X \\ & = & X^T L^{-T} L^{-1} X \\ & = & (L^{-1} X)^T (L^{-1} X) \\ & = & (Q R)^T Q R \\ & = & R^T Q^T Q T \\ & = & R^T R \end{array}$$ $R$$R^T R$

$X^T \Sigma Y$$X^T \Sigma^{-1} Y$

$$\begin{array}{} X^T \Sigma^{-1} Y & = & X^T (L L^T)^{-1} Y \\ & = & X^T L^{-T} L^{-1} Y \\ & = & (L^{-1} X)^T L^{-1} Y \\ & = & (Q R)^T L^{-1} Y \\ & = & R^T Q^T L^{-1} Y \end{array}$$ $\beta$ もちろん、最終ステップでRを明示的に反転させることはありませんか？それは単なる後方置換です。:-) $$\begin{array}{} X^T \Sigma^{-1} X \beta & = & X^T \Sigma^{-1} Y \\ R^T R \beta & = & R^T Q^T L^{-1} Y \\ R \beta & = & Q^T L^{-1} Y \\ \beta & = & R^{-1} Q^T L^{-1} Y \end{array}$$ $R$