関係及び相関係数

2つの1次元配列とます。それぞれに100個のデータポイントが含まれます。は実際のデータであり、はモデル予測です。この場合、値は次のようになります それまでの間、これは相関係数の二乗値に等しくなり 2つを入れ替えると、は実際のデータであり、はモデル予測です。方程式から、相関係数はどちらが先かを気にしないため、$a_1$$a_2$$a_1$$a_2$$R^2$

$$R^2 = 1 - \frac{SS_{res}}{SS_{tot}} \quad\quad\quad\quad\quad\ \ \quad\quad(1).$$ $$R^2 = (\text{Correlation Coefficient})^2 \quad (2).$$ $a_2$$a_1$$(2)$$R^2$値は同じです。しかし、式から、、値が変化する、ため我々が切り替えると変更されたからと。それまでの間、は変更されません。$(1)$$SS_{tot}=\sum_i(y_i - \bar y )^2$$R^2$$SS_{tot}$$y$$a_1$$a_2$$SS_{res}=\sum_i(f_i-\bar y)^2$

私の質問は次のとおりです。これらは互いに矛盾することができますか？

編集：

1. 方程式の関係はどうなるのだろうと思っていました。（2）単純な線形回帰でない場合、つまり、IVとDVの関係が線形ではない場合（指数関数/対数）

2. 予測誤差の合計がゼロに等しくない場合、この関係はまだ維持されますか？

これは、が変わることは事実ですが、回帰平方和も変わるという事実を忘れていました。単純な回帰モデルを考えて、相関係数をとして示しましょう。ここでは、サブインデックスを使用してが独立変数であり、が従属変数であるという事実を強調します。明らかに、をと交換してもは変わりません。我々は簡単にすることを示すことができる、二乗回帰和である r 2 x y = S 2 x $SS_{tot}$ xyxyr2 x y xySSRxy=Syy（R2 x y）SSRxySyyxyR2 x y =SSRx$r_{xy}^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}$$xy$$x$$y$$r_{xy}^2$$x$$y$$SSR_{xy}=S_{yy}(R_{xy}^2)$$SSR_{xy}$$S_{yy}$が独立で、が従属変数である総平方和です。従って：あります対応する残差平方和は独立で、は従属変数です。この場合、、あることに注意してください（例（34）-（ 41）here。）したがって：明らかに上記の方程式はに関して対称です。$x$$y$SSExyxySSExy=b2 x y Sxxb=Sx

$$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}=\dfrac{S_{yy}-SSE_{xy}}{S_{yy}},$$ $SSE_{xy}$$x$$y$$SSE_{xy}=b^2_{xy}S_{xx}$ R2 x y =Syy− S 2 x $b=\dfrac{S_{xy}}{S_{xx}}$xyR2 x y =R2 y x。xyR2 x y =SSRx $$R_{xy}^2=\dfrac{S_{yy}-\dfrac{S^2_{xy}}{S^2_{xx}}.S_{xx}}{S_{yy}}=\dfrac{S_{yy}S_{xx}-S^2_{xy}}{S_{xx}.S_{yy}}.$$ $x$そして、。つまり、単純回帰モデルでをで変更すると、分子と分母の両方がように変化し$y$ $$R_{xy}^2=R_{yx}^2.$$ $x$$y$ R2 x y =R2 y x$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}$$R_{xy}^2=R_{yx}^2.$

決定係数を解釈する1つの方法は、観測値と値間の平方ピアソン相関係数として見ることです。$R^{2}$$y_{i}$$\hat{y}_{i}$

観測値yiと近似値y ^ iの間の平方ピアソン相関係数から決定係数R2を導出する方法の完全な証拠は、次のリンクで見つけることができます。

http://economictheoryblog.wordpress.com/2014/11/05/proof/

私の目には、理解するのは非常に簡単で、単一の手順に従うだけです。2つのキー数値間の関係が実際にどのように機能するかを理解することが重要だと思います。

唯一の予測因子を有する単純な線形回帰の場合には。ただし、複数の予測変数を使用した多重線形回帰では、予測変数と応答の間の相関の概念は自動的に拡張されません。数式は次を取得します。 $R^2 = r^2 = Corr(x,y)^2$

$$R^2 = Corr(y_{estimated},y_{observed})^2$$

応答と近似線形モデル間の相関の二乗。

@Statは詳細な回答を提供しました。私の短い答えでは、と類似点と相違点を多少異なる方法で簡単に示します。$r$$r^2$

$r$は、よるまたはよるの標準化された回帰係数ベータであり、そのため、（相互）効果サイズの尺度です。これは、変数が二分されたときに最も明確に見られます。その、たとえば、は、他の変数が値を反対に変更すると、ケースの30％が1つの変数の値を反対に変更することを意味します。$Y$$X$$X$$Y$$r$$.30$

$r^2$、一方の発現である共変動の割合：総変動性の。これは2つの比率の積であることに注意してください。より正確には、2つの比率（比率は1より大きい場合があります）。割合または比率が準確率または傾向であることを大まかに示唆する場合、は「結合確率（傾向）」を表します。2つの比率（または比率）の結合積の別の有効な表現は、幾何平均であり、これは非常にです。$r^2 = (\frac {cov}{\sigma_x \sigma_y})^2 = \frac {|cov|} {\sigma_x^2} \frac {|cov|} {\sigma_y^2}$$r^2$$\sqrt{prop*prop}$$r$

（2つの比は、彼らはの大きさため乗法でなければならない。彼らのチームワークで、彼らは協力してお互いを補うことができないという考えを強調するために、添加物、乗法ではありませんに依存している両方の大きさとと、コンフォーマル、一度に2回分割しなければならない-適切な「共有分散の割合」に自分自身を変換するために、しかし。、「クロス分散」、両方と共有する同一の測定単位をと、 "自己差異"、そしてないと$cov$$\sigma_x^2$$\sigma_y^2$$cov$$cov$$\sigma_x^2$$\sigma_y^2$$\sigma_x \sigma_y$、「ハイブリッド分散」。そのため、「共有分散の割合」としては、ではなく方が適切です。）$r^2$$r$

だから、あなたがいることがわかり意味でおよび協会の量の尺度としては（両方の意味が有効）異なっているが、それでも決してこれらの係数は互いに矛盾しました。そして、両方のは、あなたが予測するかどうかを同じまたは。$r$$r^2$$Y\text~X$$X\text~Y$

間違っているかもしれません。もし、私はあなたが二変量モデルがあると仮定：1つのDV、1つのIVを。これらを入れ替えても、が変わるとは思いませんし、IVをIVに基づくDVの予測で置き換えても変わりません。Rでのデモ用のコードは次のとおりです。$R^2=r^2$$R^2$

x=rnorm(1000); y=rnorm(1000)              # store random data
summary(lm(y~x))                          # fit a linear regression model (a)
summary(lm(x~y))                          # swap variables and fit the opposite model (b)
z=lm(y~x)$fitted.values; summary(lm(y~z)) # substitute predictions for IV in model (a)

2変量モデルを使用していない場合、DVの選択は影響します...変数がすべて同一に相関しない限り、私は推測しますが、これは例外ではありません。すべての変数が同じ相関強度を持ち、DVの分散の同じ部分を共有する場合（たとえば、変数の一部が完全に同一である場合、[または多分 "ie"]）、これを2変量モデルに減らすことができます。あらゆる情報。行うかどうかにかかわらず、は変わりません。$R^2$$R^2$

他のすべての場合、3つ以上の変数で考えることができますここで、は決定係数で、はあらゆる種類の2変量相関係数です（必ずしもピアソンではなく、たとえばスピアマンの）。R 2、R $R^2\ne r^2$$R^2$$r$$\rho$