線形回帰+交絡因子

交絡因子Zによって調整された結果Yと変数Xの間の効果サイズと有意性にアクセスしたいとします。

私の質問は、以下のシナリオ間でXの効果サイズと有意性を決定するための違いがある場合です。

1. 変数と交絡因子を線形回帰モデルにまとめます。これは、Y〜X + Zの回帰モデルをちょうど当てはめて、係数とXの p値を計算することを意味します。
2. 残留、取得RからY〜Zを、そしてその後の適合回帰モデルR〜Xは、その後、係数のそのp値を算出X（R〜Xからの）。

ここから交絡者を学びます。

編集-----

@Gordon Smythの回答に感謝します。ただし、シミュレーション調査（以下のコード）から、メソッド1、メソッド2、およびゴードンスミスの回答のメソッド3の誤検出率を比較したところ、驚くことに、メソッド2の誤検出率がかなり低いことがわかりました。

方法1は「教科書」として正しいことを理解しています。論理的にmethod2の何が問題なのでしょうか？その上、「すべてのモデルが間違っていますが、一部は便利です」。

p1 = p2 = p3 = c()
i=0
while(i<10000){
  y = rnorm(10)
  x = rnorm(10)
  c = rnorm(10)


  # method 1
  p1[i] = summary(lm(y~x + c))$coefficients[2,4]
  # method 2
  p2[i] = summary(lm(lm(y ~ c)$res ~ x))$coefficients[2,4]
  # method 3
  p3[i] = summary(lm(lm(y ~ c)$res~lm(x ~ c)$res))$coefficients[2,4]


  i = i+1
}


# number of false positive.
sum(p1<0.05) # 484
sum(p2<0.05) # 450
sum(p3<0.05) # 623

交絡因子に対してXとYを調整する必要がある

最初のアプローチ（重回帰を使用）は常に正しいです。2番目のアプローチは、あなたが述べたように正しくありませんが、わずかな変更でほぼ正しくすることができます。2番目のアプローチを正しく行うには、と両方を個別に回帰する必要があります。私は書くのが好きの回帰からの残差のためににとの回帰からの残差のためにと。は、調整した（と同じ）として解釈でき、はとして解釈できます。X Z Y 。Z Y Z X 。Z X Z Y 。Z Y Z R X 。Z X Z Y 。Z X 。$Y$$X$$Z$$Y.Z$$Y$$Z$$X.Z$$X$$Z$$Y.Z$$Y$$Z$$R$$X.Z$$X$合わせて調整。その後、を後退できます。$Z$$Y.Z$$X.Z$

この変更により、2つのアプローチは同じ回帰係数と同じ残差を与えます。ただし、2番目のアプローチでは、残余自由度がではなくとして誤って計算されます（は各変数のデータ値の数です）。その結果、検定統計量n − 2 n $n-1$$n-2$$n$$X$ 2番目のアプローチからの少し大きすぎ、p値は少し小さすぎます。観測が大きい場合、2つのアプローチは収束し、この違いは問題になりません。$n$

2番目のアプローチからの残りの自由度が正しくない理由は簡単にわかります。どちらのアプローチでも、XとZの両方でが後退します。最初のアプローチは1つのステップで実行し、2番目のアプローチは2つのステップで実行します。ただし、2番目のアプローチはそのYを「忘れます」。Zは、上の回帰に起因Zと無視して、この変数の自由度を減算します。$Y$$X$$Z$$Y.Z$$Z$

追加された変数プロット

$Y.Z$$X.Z$$Y$$X$$Z$

Xを調整しない場合、回帰係数を過小評価します

$Y.Z$$X$$Y$$X$$Z$$Y.Z$$X$$X$$Z$$Y.Z$$X$$X$$X.Z$$X$

$X$$1-r^2$$r$$X$$Z$

数値例

$Y$$X$

$X$$Z$$Y$

> set.seed(20180525)
> Z <- 10*rnorm(10)
> X <- Z+rnorm(10)
> Y <- X+Z

$Y=X+Z$$X$$Z$

$R$$Y.Z$$X.Z$

> R <- Y.Z <- residuals(lm(Y~Z))
> X.Z <- residuals(lm(X~Z))

$X$$Y$

> coef(lm(Y~X+Z))
(Intercept)           X           Z 
   5.62e-16    1.00e+00    1.00e+00 

$X$

> coef(lm(R~X.Z))
(Intercept)         X.Z 
  -6.14e-17    1.00e+00 

対照的に、方法2では、回帰係数がわずか0.01であることがわかります。

> coef(lm(R~X))
(Intercept)           X 
    0.00121     0.01170 

$X$$Z$

> 1-cor(X,Z)^2
[1] 0.0117

$R$$X.Z$$Y$$X$

$R$$X$