線形回帰に既知の理論線と統計的に有意な差があるかどうかを計算するにはどうすればよいですか？

ほぼ直線に沿ったデータがいくつかあります。

これらの値の線形回帰を行うと、線形方程式が得られます。

$$y = 0.997x-0.0136$$

理想的な世界では、方程式はなければなりません。$y = x$

明らかに、私の線形値は理想に近いが、正確ではありません。私の質問は、この結果が統計的に有意であるかどうかをどのように判断できますか？

0.997の値は1と大きく異なりますか？-0.01 は0と大きく異なりますか？または、それらは統計的に同じであり、私はいくつかの合理的な信頼レベルでと結論付けることができますか？$y=x$

使用できる良い統計的検定とは何ですか？

ありがとう

このタイプの状況は、ネストされたモデルの標準F検定で処理できます。固定パラメーターを使用して、両方のパラメーターをヌルモデルに対してテストするため、仮説は次のとおりです。

$$H_0: \boldsymbol{\beta} = \begin{bmatrix} 0 \\ 1 \end{bmatrix} \quad \quad \quad H_A: \boldsymbol{\beta} \neq \begin{bmatrix} 0 \\ 1 \end{bmatrix} .$$

F検定には、両方のモデルの適合と、それらの残差平方和の比較が含まれます。

$$SSE_0 = \sum_{i=1}^n (y_i-x_i)^2 \quad \quad \quad SSE_A = \sum_{i=1}^n (y_i - \hat{\beta}_0 - \hat{\beta}_1 x_i)^2$$

検定統計量は次のとおりです。

$$F \equiv F(\mathbf{y}, \mathbf{x}) = \frac{n-2}{2} \cdot \frac{SSE_0 - SSE_A}{SSE_A}.$$

対応するp値は次のとおりです。

$$p \equiv p(\mathbf{y}, \mathbf{x}) = \int \limits_{F(\mathbf{y}, \mathbf{x}) }^\infty \text{F-Dist}(r | 2, n-2) \ dr.$$

---

Rでの実装：データがandと呼ばれるDATA変数で呼び出されるデータフレームにあるとします。Fテストは、次のコードを使用して手動で実行できます。使用したシミュレートされた模擬データでは、推定係数は帰無仮説の係数に近く、検定のp値には、真の回帰関数がアイデンティティ関数。yx

#Generate mock data (you can substitute your data if you prefer)
set.seed(12345);
n    <- 1000;
x    <- rnorm(n, mean = 0, sd = 5);
e    <- rnorm(n, mean = 0, sd = 2/sqrt(1+abs(x)));
y    <- x + e;
DATA <- data.frame(y = y, x = x);

#Fit initial regression model
MODEL <- lm(y ~ x, data = DATA);

#Calculate test statistic
SSE0   <- sum((DATA$y-DATA$x)^2);
SSEA   <- sum(MODEL$residuals^2);
F_STAT <- ((n-2)/2)*((SSE0 - SSEA)/SSEA);
P_VAL  <- pf(q = F_STAT, df1 = 2, df2 = n-2, lower.tail = FALSE);

#Plot the data and show test outcome
plot(DATA$x, DATA$y,
     main = 'All Residuals',
     sub  = paste0('(Test against identity function - F-Stat = ',
            sprintf("%.4f", F_STAT), ', p-value = ', sprintf("%.4f", P_VAL), ')'),
     xlab = 'Dataset #1 Normalized residuals',
     ylab = 'Dataset #2 Normalized residuals');
abline(lm(y ~ x, DATA), col = 'red', lty = 2, lwd = 2);

summary出力とplotこのデータの出力は次のようになります。

summary(MODEL);

Call:
lm(formula = y ~ x, data = DATA)

Residuals:
    Min      1Q  Median      3Q     Max 
-4.8276 -0.6742  0.0043  0.6703  5.1462 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) -0.02784    0.03552  -0.784    0.433    
x            1.00507    0.00711 141.370   <2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 1.122 on 998 degrees of freedom
Multiple R-squared:  0.9524,    Adjusted R-squared:  0.9524 
F-statistic: 1.999e+04 on 1 and 998 DF,  p-value: < 2.2e-16

F_STAT;
[1] 0.5370824

P_VAL;
[1] 0.5846198

これは、ジュリアン・ファラウェイの優れた本「Linear Models With R（Second Edition）」から引用した、クールなグラフィカル手法です。これは、楕円としてプロットされた切片と傾斜の同時95％信頼区間です。

説明のために、N（mean = 10、sd = 5）分布を持つ変数 "x"と、分布がN（mean = x、sd = 2）である変数 "y"で500個の観測値を作成しました。これにより、0.9をわずかに超える相関が得られますが、これはデータほど厳密ではない場合があります。

楕円をチェックして、ポイント（intercept = 0、slope = 1）がその同時信頼区間内にあるか外にあるかを確認できます。

library(tidyverse)
library(ellipse)
#> 
#> Attaching package: 'ellipse'
#> The following object is masked from 'package:graphics':
#> 
#>     pairs

set.seed(50)
dat <- data.frame(x=rnorm(500,10,5)) %>% mutate(y=rnorm(n(),x,2))

lmod1 <- lm(y~x,data=dat)
summary(lmod1)
#> 
#> Call:
#> lm(formula = y ~ x, data = dat)
#> 
#> Residuals:
#>     Min      1Q  Median      3Q     Max 
#> -6.9652 -1.1796 -0.0576  1.2802  6.0212 
#> 
#> Coefficients:
#>             Estimate Std. Error t value Pr(>|t|)    
#> (Intercept)  0.24171    0.20074   1.204    0.229    
#> x            0.97753    0.01802  54.246   <2e-16 ***
#> ---
#> Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
#> 
#> Residual standard error: 2.057 on 498 degrees of freedom
#> Multiple R-squared:  0.8553, Adjusted R-squared:  0.855 
#> F-statistic:  2943 on 1 and 498 DF,  p-value: < 2.2e-16

cor(dat$y,dat$x)
#> [1] 0.9248032

plot(y~x,dat)
abline(0,1)

confint(lmod1)
#>                  2.5 %    97.5 %
#> (Intercept) -0.1526848 0.6361047
#> x            0.9421270 1.0129370

plot(ellipse(lmod1,c("(Intercept)","x")),type="l")
points(coef(lmod1)["(Intercept)"],coef(lmod1)["x"],pch=19)

abline(v=confint(lmod1)["(Intercept)",],lty=2)
abline(h=confint(lmod1)["x",],lty=2)

points(0,1,pch=1,size=3)
#> Warning in plot.xy(xy.coords(x, y), type = type, ...): "size" is not a
#> graphical parameter

abline(v=0,lty=10)
abline(h=0,lty=10)

^{reprexパッケージ（v0.2.1）によって2019-01-21に作成}

n個のブートストラップされたサンプルで係数を計算できます。これにより、正規分布係数値（中央極限定理）が得られる可能性があります。それにより、平均の周りにt値（n-1自由度）の（たとえば95％）信頼区間を構築できます。CIに1（0）が含まれていない場合、統計的に有意な差があるか、より正確です：等しい勾配の帰無仮説を棄却できます。

仮説の簡単なテスト、つまりt検定を実行できます。切片の場合、帰無仮説は（これは有意性検定であることに注意してください）であり、勾配の場合はH0下にあります 。$\beta_0=0$$\beta_1=1$

線形回帰を当てはめて、2つのパラメーターの95％信頼区間を確認する必要があります。勾配のCIに1が含まれ、オフセットのCIに0が含まれる場合、両面テストは約無意味です。（95％）^ 2レベル-2つの別個のテストを使用するため、typ-Iリスクが増加します。

Rの使用：

fit = lm(Y ~ X)
confint(fit)

またはあなたが使用します

summary(fit)

そして、自分で2シグマ間隔を計算します。