特異値分解を使用した線形回帰モデルからの分散共分散行列の計算

p個のリグレッサ、n個の観測値の設計行列があり、パラメータのサンプル分散共分散行列を計算しようとしています。私はsvdを使用して直接計算しようとしています。

私はデザイン行列のSVDを取る場合、私は三つの成分を得る、Rを使用しています：行列であるN × P、行列Dである1 × 3（おそらく固有値）、及び行列Vである3 × 3。Dを対角化し、非対角に0がある3 × 3行列にしました。$U$$n \times p$$D$$1\times 3$$V$$3\times 3$$D$$3\times 3$

おそらく、共分散の式は次のとおりです。ただし、ですが、行列は一致せず、Rの組み込み関数にも近づきません。誰かアドバイスや参考資料はありますか？私はこの分野で少し熟練していないことを認めます。$V D^2 V'$vcov

$$\hat{\beta} \sim \mathcal{N}( \beta, \sigma^2 (X^T X)^{-1} ) .$$

$X = U D V^T$$X^T X = V D U^T U D V = V D^2 V^T$

$$(X^T X)^{-1} = V D^{-2} V^T .$$

$$\hat{\sigma}^2 = \frac{1}{n - p} (y^T y - \hat{\beta}^T X^T y) .$$

$\hat{\sigma}^2 V D^{-2} V^T$

$V D^2 V^T$$X^T X$$R$

vcov.matrix <- var.est * (v %*% d^(-2) %*% t(v))

行列の乗算には、の%*%代わりに使用することに注意してください*。var.est上記は、ノイズの分散の推定です。

$X$$n \geq p$