線形モデルの勾配が固定値に等しいかどうかをテストする方法は？

9

単純な線形回帰モデルあり、帰無仮説を一般的な代替案に対してテストしたいとします。 $Z = aX + bY$ $H_0: a=b=\frac{1}{2}$

との推定値を使用し、さらに検定を適用しての信頼区間を取得できると思います。これでよろしいですか？ $\hat{a}$ $SE(\hat{a})$ $Z$ $\frac{1}{2}$

他の質問はこれに強く関連しています。サンプルあり、統計を計算するとします $\{(x_1,y_1,z_1),\ldots ,(x_n,y_n,z_n) \}$ $\chi^2$

\sum_{i = 1}^{n} \frac{(z_{i} - \frac{x_{i} + y_{i}}{2})^{2}}{\frac{x_{i} + y_{i}}{2}} .

$\begin{equation} \sum_{i=1}^n \frac{(z_i-\frac{x_i+y_i}{2})^2}{\frac{x_i+y_i}{2}}. \end{equation}$ これらの統計を使用して、同じ帰無仮説をテストできますか？

hypothesis-testing regression

— Lan
ソース

8

線形回帰では、とは確率変数ではないと仮定されます。したがって、モデル $X$ $Y$

Z = a X + b Y + ϵ

$Z = a X + b Y + \epsilon$

代数的に同じです

Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2}) X + (b - \frac{1}{2}) Y + ϵ = α X + β Y + ϵ .

$Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2})X + (b - \frac{1}{2})Y + \epsilon = \alpha X + \beta Y + \epsilon.$

ここでは、およびです。エラー項は影響を受けません。このモデルを近似し、係数をそれぞれおよびとして推定し、通常の方法で仮説をテストします。 $\alpha = a - \frac{1}{2}$ $\beta =b - \frac{1}{2}$ $\epsilon$ $\hat{\alpha}$ $\hat{\beta}$ $\alpha = \beta = 0$

質問の最後に書かれた統計は、形式的に類似しているにもかかわらず、カイ2乗統計ではありません。カイ二乗統計には、データ値ではなくカウントが含まれ、共変量ではなく、分母に期待値が含まれている必要があります。1つ以上の分母がゼロ（またはそれに近い値）になる可能性があり、この定式化に重大な問題があることを示しています。それでも納得できない場合は、、、およびの測定単位が（drams、parsecs、pecksなど）である可能性があるため、z_i-ような線形結合になるようにしてください。（一般的に）無意味です。何もテストしません。 $\frac{x_i+y_i}{2}$ $Z$ $X$ $Y$ $z_i - (x_i+y_i)/2$

— whuber
ソース

1

ご回答有難うございます。とても役に立ちました。実際、私は質問の2番目の部分の定式化についてあまり正確ではありませんでした。xsとysが同じ単位で測定された正の数であると想像してください。zs（観測された結果）は、相互作用がない場合、zsが（x + y）/ 2（期待される結果）になるはずであるという意味で、「相互作用」を何らかの方法で測定します。したがって、私の見解では、帰無仮説a = b = 1/2で回帰を使用したり、ピアソンのchi ^ 2統計を使用して適合度を比較したりすることは同じでした。これは意味がありますか？ありがとう！

— Lan

1

@ Lan Wolfgangの回答は、提案しているテストの作成方法をうまく示していると思います。これは、「通常の方法で」仮説をテストすることの意味する例です。

— whuber

9

この仮説は、完全モデルテストと縮小モデルテストでテストできます。これを行う方法は次のとおりです。最初に、モデル、そのモデルから残差を取得します。残差を二乗し、それらを合計します。これは、完全なモデルの二乗誤差の合計です。これをと呼びましょう。次に、計算しますここで、です。これらは、帰無仮説での残差です。それらを二乗して合計します。これは、縮小モデルの二乗誤差の合計です。これをと呼びましょう。 $Z = aX + bY$ $SSE_f$ $Z - \hat{Z}$ $\hat{Z} = 1/2*X + 1/2*Y$ $SSE_r$

次に計算します。

F =、 $((SSE_r - SSE_f)/2) / (SSE_f / (n-2))$

ここで、はサンプルサイズです。下では、このF統計量はおよび自由度のF分布に従います。 $n$ $H_0$ $2$ $n-2$

Rを使用した例を次に示します。

x <- rnorm(n)
y <- rnorm(n)
z <- 1/2*x + 1/2*y + rnorm(n) ### note I am simulating under H0 here

res <- lm(z ~ x + y - 1)
summary(res)
SSE.f <- sum(resid(res)^2)

zhat  <- 1/2*x + 1/2*y
SSE.r <- sum((z-zhat)^2)

F <- ((SSE.r - SSE.f) / 2) / (SSE.f / (n-2))
pf(F, 2, n-2, lower.tail=FALSE) ### this is the p-value

p値が.05未満の場合はnullを拒否します（が本当に.05の場合）。 $\alpha$

私はあなたが本当にあなたのモデルが切片を含まないことを意図していたと思います。言い換えれば、なく、実際にモデル作業していると想定します。 $Z = aX + bY$ $Z = c + aX + bY$

— ヴォルフガング
ソース