可能な範囲

、、 3つの時系列があるとします。$X_1$$X_2$$Y$

上で通常の線形回帰を実行している〜（）、我々が得る。通常の線形回帰〜X_2を取得R ^ 2 = Vを。U <Vと仮定$Y$$X_1$$Y = b X_1 + b_0 + \epsilon$$R^2 = U$$Y$$X_2$$R^2 = V$$U < V$

最小値と最大値の可能な値何$R^2$回帰の$Y$〜$X_1 + X_2$（$Y = b_1 X_1 + b_2 X_2 + b_0 + \epsilon$）は？

新しい変数を追加すると常にR ^ 2が増加するため、最小$R^2$は$V$ +小さな値である必要があると思いますが、この小さな値を定量化する方法がわからず、最大範囲を取得する方法もわかりません。$R^2$

1）編集：以下の枢機卿のコメントは、最小$R^2$質問に対する正しい答えがVであることを示しています$V$。したがって、私は「興味深い」私の投稿を削除していますが、最終的には正しくありません。OPの投稿のその部分に答えます。

2）最大$R^2$は1です。次の例を検討してください。

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

ここでは、の分散を0に固定しています。が必要な場合でも、状況は少します。どんどん小さくすることで、任意に1に近づけることができますが、最小の問題と同様に、そこに到達することができないため、最大値はありません。1は常により大きいため、上限になりますが、としての制限でもあります。σ 2 ε > 0 R 2 σ 2 ε R 2 σ 2 ε → $\epsilon$$\sigma^2_\epsilon > 0$$R^2$$\sigma^2_\epsilon$$R^2$$\sigma^2_\epsilon \to 0$

ましょうとの間の相関等しくおよび、間の相関等しくおよび、およびとの間の相関および。次に、フルモデルのを除算すると、 X 1 X 2 、R 1 、Y、X 1 YのR 2 、Y X 2 Y R 2$r_{1,2}$$X_1$$X_2$$r_{1,Y}$$X_1$$Y$$r_{2,Y}$$X_2$$Y$$R^2$$V$

そう等しいフルモデルののみならとまたは VのR 1 、2 = 0 、R 2 1 、Y = U = $R^2$$V$$r_{1,2} = 0$$r_{1,Y}^2 = U = 0$

場合、フルモデル用に等しい。R 2 U + $r_{1,2} = 0$$R^2$$U + V$

と制約がない場合、最小値はで、最大値はより小さいです。これは、2つの変数が完全に相関している場合（2番目の変数を追加してもがまったく変更されない場合）または両方が直交している場合（両方の結果を含む）がです。コメントでも、それぞれがの列ベクトルであるに直交している必要があることが正しく指摘されていました。V V min （V + U 、1 ）R 2 U + V $U$$V$$V$$\min(V + U, 1)$$R^2$$U + V$$\mathbf{1}$

制約追加しました。ただし、可能性があり。つまり、、その場合、です。最後に、である可能性があるため、上限はです。 U = 0 X 1 ⊥ Y 分= 最大= V + 0 X 1 ⊥ X 2分（V + U 、1 $U < V \implies X_{1} \neq X_{2}$$U = 0$$X_{1} \perp Y$$\min = \max = V + 0$$X_{1} \perp X_{2}$$\min(V + U, 1)$

との関係について知っていれば、もっと言えると思います。 X $X_{1}$$X_{2}$