2つの変数間の

まず、についての議論は一般に（つまり、回帰における決定係数）についての説明を引き起こすことを理解しています。私が答えようとしている問題は、2つの変数間の相関のすべてのインスタンスにそれを一般化することです。 $r^2$ $R^2$

だから、私はかなりの間、分散の分散について困惑してきました。私はいくつかの説明を提供しましたが、それらはすべて問題があるようです：

これは共分散の別の用語です。因子分析の文献ではPCAとEFAを区別するため、後者は共有分散を説明し、前者は説明しないと説明しているため、これは当てはまりません（PCAは明らかに共分散行列で動作しているため、共分散を考慮しているため、共有されます分散は異なる概念でなければなりません）。
相関係数の2乗（）です。見る： $r^2$
- http://www.philender.com/courses/linearmodels/notes1/var1.htmlまたは
- http://www.strath.ac.uk/aer/materials/4dataanalysisineducationalresearch/unit6/correlationcoefficient/

これは少し意味があります。ここでの問題は、それが共有分散であることを意味する方法を解釈することです。たとえば、「共有分散」の解釈の1つはです。はそれまで減少しない、または確かにすぐ直感的な概念[ ; これは4次元オブジェクトです]。 ${\rm cov}(A,B)/[{\rm var}(A)+{\rm var}(B)]$ $r^2$ ${\rm cov}(A,B)^2/({\rm var}(A)\times{\rm var}(B))$

上記のリンクはどちらも、バレンティン図で説明しようとしています。彼らは助けにはなりません。まず、円のサイズは同じです（これは、何らかの理由で図にとって重要であるように思われます）。これは、不均一な分散を考慮していません。それは標準化された変数のバレンティンダイアグラムであり、したがって分散が等しいと想定できます。だから、、いない。 $r$ $r^2$

TL; DR：共有分散の説明はこれを言います：

係数を2乗すると、2つの変数が共有する分散のパーセンテージがわかります。

なぜそうなのでしょうか？

— スー・ドニム
ソース

両方の点（「共分散」と「r二乗」）は正しい解釈です。私はあなたにお勧めしますこの私の答えを：

共分散の2つの相対的な大きさの産物であり、準同時確率です。

r^{2}

$r^2$

— ttnphns 2014年

EFA内では、彼らは通常「共有分散」ではなく「共通分散」と言います。共通分散は、完全な共線性の領域です。一方、「共有分散」という用語は完全には定義されていません（あなたの質問はそれをどのように定義するかです）。

— ttnphns 2014年

ベン（バレンティン）ダイアグラムは、共分散の大きさが2つの円（分散）の交差領域ではないため、

の概念を適切に関連付けることができません。共分散は両方の分散に依存します。共分散のサイズは、より小さい分散のサイズよりも大きくなる可能性があります（交差によってベンに表示することは確かに不可能です）。

r^{2}

$r^2$

— ttnphns 2014年

それは背中のregressional定義に私たちをもたらし

として

。したがって、状況が同程度である場合は、簡単に自分自身を確認できます...

r^{2}

$r^2$

1 - S S r e s i d / S S t o t

$1-SSresid/SStot$

— ttnphns '06 / 06/21

共分散は「共有分散」であり、ifの生の大きさです。相対等級に正規化され、2つのバージョン、rとr-sqがあります。r-sqは、複合分散における共有分散の％として解釈できます。

— ttnphns 2014年

特定の著者が「分散の分散」によって何を意味するかを推測することしかできません。この概念が（直感的に）持つべき特性を検討することで、可能性を制限したいと思うかもしれません。 「分散が追加する」ことはわかっています。合計の分散は、と共分散がゼロの場合のとの分散の合計です。の「共有分散」を定義するのが自然であるの分散によって表される合計の分散の割合であることを合計で。これは、任意の 2つの確率変数共有分散を暗示するのに十分 です。 $X+\varepsilon$ $X$ $\varepsilon$ $X$ $\varepsilon$ $X$ $X$ $X$ そしてその相関係数の二乗でなければなりません。 $Y$

この結果は、二乗相関係数の「共有分散」としての解釈に意味を与えます。適切な意味で、それは実際には合計の1つの変数に割り当てることができる合計分散の一部です。

詳細は以下の通りです。

原則とその意味

もちろん場合、それらの「共有分散」（これを「SV」と呼ぶことにしましょう）は100％になるはずです。しかし、とが単にスケーリングまたはシフトされたバージョンである場合はどうなりますか？たとえば、が都市の気温をF度で表し、が気温をC度で表す場合はどうでしょうか。このような場合でも、と SVは100％であるべきで、と測定方法に関係なく、この概念が意味を持ち続けることをお勧めします。 $Y=X$ $Y$ $X$ $Y$ $X$ $X$ $Y$ $X$ $Y$

\begin{matrix} （1） & SV （ α + β バツ 、 γ + δ Y ） = SV （ バツ 、 Y ） \end{matrix}

$\operatorname{SV}(\alpha + \beta X, \gamma + \delta Y) = \operatorname{SV}(X,Y)\tag{1}$

任意の数値およびゼロ以外の数値。 $\alpha, \gamma$ $\beta, \delta$

別の原理は、がに依存しない確率変数である場合、分散を2つの非負の部分に一意に分解できることです。 $\varepsilon$ $X$ $X+\varepsilon$

Var （ バツ + ε ） = Var （ バツ ） + Var （ ε ） 、

$\operatorname{Var}(X+\varepsilon) = \operatorname{Var}(X) + \operatorname{Var}(\varepsilon),$

この特殊なケースでSVを次のように定義しようとすることを示唆しています。

\begin{matrix} （2） & SV （ バツ 、 バツ + ε ） = \frac{Var （ バツ ）}{Var （ バツ ） + Var （ ε ）} 。 \end{matrix}

$\operatorname{SV}(X, X+\varepsilon) = \frac{\operatorname{Var}(X)}{\operatorname{Var}(X) + \operatorname{Var}(\epsilon)}.\tag{2}$

これらの基準はすべて2次までです（これらは、期待値と分散の形式で変数の1次モーメントと2次モーメントのみを含む）ので、とが独立であり、それらが無相関であることだけを要求する要件を緩和しましょう。これにより、他の場合よりも分析がより一般的になります。 $X$ $\varepsilon$

結果

これらの原則（受け入れた場合）は、独特で親しみやすく解釈可能な概念につながります。 トリックは、一般的なケースを合計の特別なケースに減らすことであり、そこで定義適用できます。 $(2)$

与えられた、我々は単に分解しようとするとのスケール、シフトしたバージョンにプラスと無相関である変数（それが可能だ場合）であること、の検索を聞かせて定数：ととランダム変数のためのどれ $(X,Y)$ $Y$ $X$ $X$ $\alpha$ $\beta$ $\epsilon$

\begin{matrix} （3） & Y = α + β バツ + ε \end{matrix}

$Y = \alpha + \beta X + \varepsilon\tag{3}$

。分解が一意になる可能性がある場合は、 $\operatorname{Cov}(X, \varepsilon)=0$

E [ε] = 0

$\mathbb{E}[\varepsilon]=0$

そう一度という発見され、によって決定されます $\beta$ $\alpha$

α = E [Y] - β E [バツ] 。

$\alpha = \mathbb{E}[Y] - \beta\, \mathbb{E}[X].$

これは線形回帰に非常によく似ており、実際にそうです。最初の原則では、とを再スケーリングして単位分散を持たせることができ（それぞれにゼロ以外の分散があると仮定）、それが行われると、標準回帰の結果はの値がと相関であることを表明します。 $X$ $Y$ $\beta$ $(3)$ $X$ $Y$

\begin{matrix} （4） & β = ρ （ バツ 、 Y ） 。 \end{matrix}

$\beta = \rho(X,Y)\tag{4}.$

また、分散の撮影が得られます $(1)$

1 = Var （ Y ） = β^{2} Var （ バツ ） + Var （ ε ） = β^{2} + Var （ ε ） 、

$1 = \operatorname{Var}(Y) = \beta^2 \operatorname{Var}(X) + \operatorname{Var}(\varepsilon) = \beta^2 + \operatorname{Var}(\varepsilon),$

含意

\begin{matrix} （5） & Var （ ε ） = 1 - β^{2} = 1 - ρ^{2} 。 \end{matrix}

$\operatorname{Var}(\varepsilon) = 1-\beta^2 = 1-\rho^2.\tag{5}$

したがって

\begin{aligned} SV （ バツ 、 Y ） & = SV （ バツ 、 α + β バツ + ε ） & （モデル3） \\ = SV （ β バツ 、 β バツ + ε ） & （物件1） \\ = \frac{Var （ β バツ ）}{Var （ β バツ ） + Var （ ε ）} & （定義2） \\ = \frac{β^{2}}{β^{2} + （ 1 - β^{2} ）} = β^{2} & （結果5） \\ = ρ^{2} & （関係4） 。 \end{aligned}

$\eqalign{ \operatorname{SV}(X,Y) &= \operatorname{SV}(X, \alpha+\beta X + \varepsilon) &\text{(Model 3)}\\ &= \operatorname{SV}(\beta X, \beta X + \varepsilon) &\text{(Property 1)}\\ &= \frac{\operatorname{Var}(\beta X)}{\operatorname{Var}(\beta X) + \operatorname{Var}(\epsilon)} & \text{(Definition 2)}\\ &= \frac{\beta^2}{\beta^2 + (1-\beta^2)} = \beta^2 &\text{(Result 5)}\\ & = \rho^2 &\text{(Relation 4)}. }$

$Y$ $\rho(Y,X)=\rho(X,Y)$ $X$ $Y$

SV （ バツ 、 Y ） = ρ （ バツ 、 Y ）^{2} = ρ （ Y 、 バツ ）^{2} = SV （ Y 、 バツ ） 。

$\operatorname{SV}(X,Y) = \rho(X,Y)^2 = \rho(Y,X)^2 = \operatorname{SV}(Y,X).$

— whuber
ソース