スピアマン相関の次の2つの式の等価性を証明する

14

ウィキペディアから、スピアマンのランク相関は、変数およびをランク変数およびに変換し、ランク変数間のピアソンの相関を計算することにより計算されます。 $X_i$ $Y_i$ $x_i$ $y_i$

ウィキペディア経由でスピアマンを計算する

ただし、この記事では、変数と間に関係がない場合、上記の式は $X_i$ $Y_i$

スピアマンを計算する2番目の式

ここで、、ランクの差。 $d_i = y_i - x_i$

誰かがこれの証拠をお願いできますか？ウィキペディアの記事で参照されている教科書にアクセスできません。

correlation proof spearman-rho

— アレックス
ソース

14

$\rho = \frac{\sum_i(x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum_i (x_i-\bar{x})^2 \sum_i(y_i-\bar{y})^2}}$

同順位がないため、 $x$ と両方ともからまでの整数で構成されます。 $y$ $1$ $n$

したがって、分母を書き換えることができます。

$\frac{\sum_i(x_i-\bar{x})(y_i-\bar{y})}{\sum_i (x_i-\bar{x})^2}$

しかし、分母は単なる関数です： $n$

$\sum_i (x_i-\bar{x})^2 = \sum_i x_i^2 - n\bar{x}^2 \\ \quad= \frac{n(n + 1)(2n + 1)}{6} - n(\frac{(n + 1)}{2})^2\\ \quad= n(n + 1)(\frac{(2n + 1)}{6} - \frac{(n + 1)}{4})\\ \quad= n(n + 1)(\frac{(8n + 4-6n-6)}{24})\\ \quad= n(n + 1)(\frac{(n -1)}{12})\\ \quad= \frac{n(n^2 - 1)}{12}$

次に、分子を見てみましょう。

$\sum_i(x_i-\bar{x})(y_i-\bar{y})\\ \quad=\sum_i x_i(y_i-\bar{y})-\sum_i\bar{x}(y_i-\bar{y}) \\ \quad=\sum_i x_i y_i-\bar{y}\sum_i x_i-\bar{x}\sum_iy_i+n\bar{x}\bar{y} \\ \quad=\sum_i x_i y_i-n\bar{x}\bar{y} \\ \quad= \sum_i x_i y_i-n(\frac{n+1}{2})^2 \\ \quad= \sum_i x_i y_i- \frac{n(n+1)}{12}3(n +1) \\ \quad= \frac{n(n+1)}{12}.(-3(n +1))+\sum_i x_i y_i \\ \quad= \frac{n(n+1)}{12}.[(n-1) - (4n+2)] + \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} - n(n+1)(2n+1)/6 + \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} -\sum_i x_i^2+ \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} -\sum_i (x_i^2+ y_i^2)/2+ \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} - \sum_i (x_i^2 - 2x_i y_i + y_i^2) /2\\ \quad= \frac{n(n+1)(n-1)}{12} - \sum_i(x_i - y_i)^2/2\\ \quad= \frac{n(n^2-1)}{12} - \sum d_i^2/2$

分子/分母

$= \frac{n(n+1)(n-1)/12 - \sum d_i^2/2}{n(n^2 - 1)/12}\\ \quad= {\frac {n(n^2 - 1)/12 -\sum d_i^2/2}{n(n^2 - 1)/12}}\\ \quad= 1- {\frac {6 \sum d_i^2}{n(n^2 - 1)}}\,$ 。

したがって

$\rho = 1- {\frac {6 \sum d_i^2}{n(n^2 - 1)}}.$

— Glen_b -Reinstate Monica
ソース

5

もしという観察から出発して、この作業の最後の80％を排除することができるそれによって発現する問題を低減、位置及びスケールの変化の下で不変であるの観点場合 ; 式は明らかにです。その後、行われる唯一の実際の作業は、分母の計算によって達成されます。

ρ

$\rho$

\sum x_{i} y_{i}

$\sum x_iy_i$

\sum (x_{i} - y_{i})^{2}

$\sum(x_i-y_i)^2$

\sum x_{i}^{2} = \sum y_{i}^{2} = 1

$\sum x_i^2=\sum y_i^2=1$

\frac{1}{2} \sum d_{i}^{2} = \frac{1}{2} \sum (x_{i} - y_{i})^{2} = 1 - \sum x_{i} y_{i}

$\frac{1}{2}\sum d_i^2=\frac{1}{2}\sum(x_i-y_i)^2=1-\sum x_iy_i$

— whuber

@whuber +1、それは良いビットです。しかし、私はそれをより長く、よりすっきりしていない、門の形で残すと思います。

— グレン_b-モニカを復元14

おかげで、両方の答えは良いですが、私はこれを自分で試み始めたので、私はこれを受け入れました。

— アレックス14年

もっと平凡な道を歩む理由を説明する必要があります。他の答えはきちんとしていて、明るくて賢いですが、優れた生徒以外は自分では生成されない洞察が必要です。インスピレーションを受けていない操作であれば、それを示す利点は、インスピレーションを受けていないが洞察力が中程度の学生でも把握できるということです。時々、洞察に満ちたトリックを必要としないことを知ることは（それらを見ない人にとって）役立ちます。

— Glen_b-モニカの復活14

それは、「トリック」、「操作」、「洞察」を構成するものに対するあなたの見解に依存すると思います。あなたが親密であるように、複雑な代数計算の長いバッテリーは、洞察をほとんどまたはまったく提供しません（そして間違いの多くの機会を提供します）-そして、学生は彼らの非常に大きなだけでなく、やる気がないとそれらを見るかもしれないことを恐れています。予備的な標準化（ここでは非常に役立ちます）などのその他の操作は、最初は「トリック」と見なされる場合がありますが、いくつかのアプリケーションは洞察に満ちた基本的なツールと見なされるようになります。

— whuber

10

2番目の式では、2つの（ランク付けされた）変数間のユークリッド距離の2乗が表示されます：。開始時の決定的な直観は、がどのように関連するかです。これは、コサイン定理を介して明らかに関係しています。2つの変数が中心にある場合、リンクされた定理の式のコサインは等しくなります（簡単に証明できますが、ここでは当然と考えます）。そして（平方ユークリッドノルム）である、平方和の中心変数です。したがって、定理の式は次のようになります $D^2= \Sigma d_i^2$ $D^2$ $r$ $r$ $h^2$ $N \sigma^2$ $D_{xy}^2 = N\sigma_x^2+N\sigma_y^2-2\sqrt N\sigma_x \sqrt N \sigma_yr$ 。また、別の重要なことに注意してください（個別に証明する必要がある場合があります）。データがランクの場合、は中央データと中央データでは同じです。 $D^2$

さらに、2つの変数がランク付けされているため、それらの分散は同じであるため、であるため、です。 $\sigma_x=\sigma_y=\sigma$ $D^2 = 2N\sigma^2-2N\sigma^2r$

$r= 1-\frac{D^2}{2N\sigma^2}$ 。ランク付けされたデータは、分散を持つ離散均一分布からのものであることを思い出してください。それを式に代入すると、ます。 $(N^2-1)/12$ $r= 1-\frac{6D^2}{N(N^2-1)}$

— ttnphns
ソース

8

代数は最初に現れるよりも単純です。

私見では、代数的操作を巧みに行うことによって得られる利益や洞察はほとんどありません。代わりに、真の単純な同一性は、2乗差を使用して（通常のピアソンの）相関係数を表現できる理由を示しています。これをデータがランクである特別な場合に適用すると、結果が生成されます。これまでの謎の係数を示しています

\frac{6}{n (n^{2} - 1)}

$\frac{6}{n(n^2-1)}$

ランクの分散の逆数の半分として。（関係が存在する場合、この係数は、より複雑な式を取得しますが、まだデータに割り当てられたランクの分散の半分の逆数です。） $1, 2, \ldots, n$

これを見て理解すると、式は記憶に残ります。関係を処理する同等の（ただし、より複雑な）数式は、ウィルコクソンのランク和検定などのノンパラメトリック統計検定に表示され、空間統計（モランI、ギアリーCなど）に表示されるとすぐに理解できるようになります。

平均およびと分散およびのペアのデータセットを考えます。平均および変数を再し、標準偏差およびを測定単位として使用することにより、データは標準化された値で再表現されます $(X_i,Y_i)$ $\bar X$ $\bar Y$ $s_X^2$ $s_Y^2$ $\bar X$ $\bar Y$ $s_X$ $s_Y$

(x_{i}, y_{i}) = (\frac{X_{i} - \bar{X}}{s_{X}}, \frac{Y_{i} - \bar{Y}}{s_{Y}}) .

$(x_i, y_i) = \left(\frac{X_i-\bar X}{s_X}, \frac{Y_i-\bar Y}{s_Y}\right).$

定義では、元のデータのピアソン相関係数は標準化された値の平均積であり、

ρ = \frac{1}{n} \sum_{i = 1}^{n} x_{i} y_{i} .

$\rho = \frac{1}{n}\sum_{i=1}^n x_i y_i.$

偏光アイデンティティは四角形に製品を関します。2つの数値およびに対してアサートします $x$ $y$

x y = \frac{1}{2} (x^{2} + y^{2} - (x - y)^{2}),

$xy = \frac{1}{2}\left(x^2 + y^2 - (x-y)^2\right),$

簡単に確認できます。これを合計の各用語に適用すると、

ρ = \frac{1}{n} \sum_{i = 1}^{n} \frac{1}{2} (x_{i}^{2} + y_{i}^{2} - (x_{i} - y_{i})^{2}) .

$\rho = \frac{1}{n}\sum_{i=1}^n \frac{1}{2}\left(x_i^2 + y_i^2 - (x_i-y_i)^2\right).$

とは標準化されているため、それらの平均平方は両方とも1 $x_i$ $y_i$

\begin{matrix} (1) & ρ = \frac{1}{2} (1 + 1 - \frac{1}{n} \sum_{i = 1}^{n} (x_{i} - y_{i})^{2}) = 1 - \frac{1}{2} (\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - y_{i})^{2}) . \end{matrix}

$\rho = \frac{1}{2}\left(1 + 1 - \frac{1}{n}\sum_{i=1}^n (x_i-y_i)^2\right) = 1 - \frac{1}{2}\left(\frac{1}{n}\sum_{i=1}^n (x_i-y_i)^2\right).\tag{1}$

相関係数は、標準化されたデータの平均二乗差の半分だけ、最大可能値と異なります。 $1$

これは、元のデータが何であるかに関係なく有効な相関の普遍的な公式です（両方の変数の標準偏差がゼロ以外である場合のみ）。（このサイトの忠実な読者は、これを、平均のみを理解している人に共分散をどのように説明しますか？で説明および図解されている共分散の幾何学的特性に密接に関連していると認識します。）

とが異なるランクである特別なケースでは、それぞれが数字の同じシーケンスの順列です。したがって、あり、わずかな計算で、 $X_i$ $Y_i$ $1,2 , \ldots, n$ $\bar X = \bar Y = (n+1)/2$

s_{X}^{2} = s_{Y}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (i - (n + 1) / 2)^{2} = \frac{n^{2} - 1}{12}

$s_X^2 = s_Y^2 = \frac{1}{n} \sum_{i=1}^n (i - (n+1)/2)^2 = \frac{n^2 - 1}{12}$

（幸いなことに、は常にゼロ以外です）。だから $n\gt 1$

(x_{i} - y_{i})^{2} = \frac{{((X_{i} - (n + 1) / 2) - (Y_{i} - (n + 1) / 2))}^{2}}{(n^{2} - 1) / 12} = \frac{12 (X_{i} - Y_{i})^{2}}{n^{2} - 1} .

$(x_i - y_i)^2 = \frac{\left((X_i - (n+1)/2)- (Y_i - (n+1)/2)\right)^2}{(n^2-1)/12} = \frac{12(X_i-Y_i)^2}{n^2-1}.$

とが同じ平均と標準偏差を持っているため、この素晴らしい単純化が行われました。したがって、それらの平均の差はなくなり、積はを含まないなり。 $X_i$ $Y_i$ $s_X s_Y$ $s_X^2$

式にこれを差し込む用できます $(1)$ $\rho$

ρ = 1 - \frac{6}{n (n^{2} - 1)} \sum_{i = 1}^{n} (X_{i} - Y_{i})^{2} .

$\rho = 1 - \frac{6}{n(n^2-1)}\sum_{i=1}^n (X_i - Y_i)^2.$

— ウーバー
ソース

2

（+1）あなたの有名な「共分散のための長方形」の答えに関する幾何学的解釈は非常にきちんとしていますが、カジュアルな読者がそれを見るかどうか疑問に思います-おそらくスケッチ図が役立つかもしれません（私は自分で追加したいと思いました！）不思議なことに：式

は、The American Statistician、Vol。のJoseph Lee RodgersとW. Alan Nicewanderによる、相関係数を調べる13の方法のリストの9番です。42、No。1（1988年2月）、59-66ページ。stat.berkeley.edu/~rabbee/correlation.pdf

r = 1 - s_{x - y}^{2} / 2

$r = 1 - s_{x-y}^2/2$

— Silverfish

2

@Silver有益なコメントをありがとうございます。ロジャースとNicewander記事は、当社のサイト上で要約されstats.stackexchange.com/a/104577。いつかあなたが説明する図を描くかもしれません…。

— whuber

5

高校生は、シグマ記法を操作する代数スキルを得る数年前にPMCCとスピアマンの相関式を見ますが、シーケンスの多項式を推定するための有限差分の方法をよく知っているかもしれません。そのため、同値性の「高等学校の証明」を作成しようとしました。有限差分を使用して分母を見つけ、分子内の和の代数的操作を最小化します。証明が提示される生徒によっては、分子よりもこのアプローチを好むかもしれませんが、分母のためのより一般的な方法と組み合わせてください。

分母、 $\sqrt{\sum_i (x_i-\bar{x})^2 \sum_i(y_i-\bar{y})^2}$

ない関係で、データは、ランクであるが表示することは容易であるので、いくつかのために $\{1, 2,\dots, n\}$ 。我々は、和並べ替えることができ $\bar{x}=\frac{n + 1}{2}$ ですが、低学年の生徒の場合、シグマ表記ではなく、この合計を明示的に書き出す可能性があります。2次方程式の合計は3次方程式になります。これは、有限差分法に精通している学生が直感的に理解できることです。3次関数の差分は2次関数を生成します。生徒が記法を快適に操作し、およびの式を知っている（そして覚えている）場合、3次の係数の決定は簡単です。 $S_{xx}=\sum_{i=1}^{n} (x_i-\bar{x})^2 = \sum_{k=1}^{n} (k-\frac{n + 1}{2})^2$ $k$ $n$ $f(n)$ $\Sigma$ $\sum_{k=1}^{n} {k}$ 。ただし、次のように有限差分を使用して推測することもできます。 $\sum_{k=1}^{n} {k^2}$

場合、データ・セットがあるだけで、、そう。 $n=1$ $\{1\}$ $\bar{x}=1$ $f(1)=(1-1)^2 = 0$

以下のために、データは、ので、。 $n=2$ $\{1, 2\}$ $\bar{x}=1.5$ $f(2)=(1-1.5)^2 + (2-1.5)^2 = 0.5$

以下のために、データは、、そう。 $n=3$ $\{1, 2, 3\}$ $\bar{x}=2$ $f(3)=(1-2)^2 + (2-2)^2 + (3-2)^2 = 2$

これらの計算はかなり簡単であり、ヘルプがどの表記強化手段、および短いために、我々は差分テーブルを生成します。 $\sum_{i=1}^{n} (x_i-\bar{x})^2$

Finite difference table for Sxx

上記のリンクで概説したように、有限差分法を使用して係数を取得できます。たとえば、一定の3番目の差は、多項式が実際に3次であり、係数がことを示しています。 $f(n)$ 。骨の折れる作業を最小限に抑えるためのいくつかのトリックがあります。よく知られているのは、が定数係数を即座に解放するため、一般的な違いを使用してシーケンスを戻すことです。別の方法は、整数に対してがゼロかどうかを確認するためにシーケンスを拡張することです。たとえば、シーケンスが正であるが減少している場合、「ルートをキャッチ」できるかどうかを右に拡張する価値があります。後で因数分解を簡単にします。私たちの場合、が小さい場合、関数は低い値を中心にホバリングしているように見えるので、さらに左に拡張してみましょう。 $\frac{0.5}{3!} = \frac{1}{12}$ $n=0$ $f(0)$ $f(n)$ $n$ $n$

Extended finite difference table for Sxx

あぁ！3つのルートすべてを捕らえたことがわかります：。そのため、多項式には、、および因子があります。立方体であったため、次の形式でなければなりません。 $f(-1) = f(0) = f(1) = 0$ $(n+1)$ $n$ $(n-1)$

f (n) = a n (n + 1) (n - 1)

$f(n) = an(n+1)(n-1)$

は、すでに決定したの係数でなければならないことがわかります。 $a$ $n^3$ 。あるいは、以降我々はと同じ結論に達したリード。2つの正方形の差を拡大すると、次のようになります。 $\frac{1}{12}$ $f(2) = 0.5$ $a(2)(3)(1)=0.5$

S_{x x} = \frac{n (n^{2} - 1)}{12}

$S_{xx} = \frac{n(n^2-1)}{12}$

同じ引数が適用されるため、分母は $S_{yy}$ これで完了です。私の説明を無視すると、この方法は驚くほど短いです。一つは多項式が立方晶であり、それだけで計算する必要があることを見つけることができればケースについて第三の差を確立するために0.5です。ルートハンターは、3つすべてのルートが見つかった時点で、シーケンスを左におよびに拡張するだけです。を見つけるのに数分かかりました $\sqrt{S_{xx} S_{yy}} = \sqrt{S_{xx}^2} = S_{xx}$ $S_{xx}$ $n \in \{1,2,3,4\}$ $n=0$ $n=-1$ この方法。 $S_{xx}$

分子、 $\sum_i(x_i-\bar{x})(y_i-\bar{y})$

私は、アイデンティティの点に注意してくださいに再配置することができます。 $(b-a)^2 \equiv b^2 - 2ab + a^2$

a b \equiv \frac{1}{2} (a^{2} + b^{2} - (b - a)^{2})

$ab \equiv \frac{1}{2}\left(a^2 + b^2 - (b-a)^2 \right)$

私たちは聞かせている場合及び $a = x_i - \bar{x} = x_i - \frac{n+1}{2}$ という有用な結果が得られます。これは、平均値が同一であるため、相殺されるためです。それはそもそもアイデンティティを書くための私の直感でした。瞬間の積を扱うことから、それらの差の二乗に切り替えたかったのです。現在、次のものがあります。 $b = y_i - \bar{y} = y_i - \frac{n+1}{2}$ $b-a = y_i - x_i = d_i$

(x_{i} - \bar{x}) (y_{i} - \bar{y}) = \frac{1}{2} ((x_{i} - \bar{x})^{2} + (y_{i} - \bar{y})^{2} - d_{i}^{2})

$(x_i - \bar{x})(y_i - \bar{y}) = \frac{1}{2}\left((x_i - \bar{x})^2 + (y_i - \bar{y})^2 - d_i^2 \right)$

表記法の操作方法がわからない学生でも、データセットの合計がどのように生成されるかを確認できれば幸いです。 $\Sigma$

S_{x y} = \frac{1}{2} (S_{x x} + S_{y y} - \sum_{i = 1}^{n} d_{i}^{2})

$S_{xy} = \frac{1}{2}\left(S_{xx} + S_{yy} - \sum_{i=1}^n{d_i^2}\right)$

合計を並べ替えることにより、がすでに確立されており、次のようになります。 $S_{yy} = S_{xx}$

S_{x y} = S_{x x} - \frac{1}{2} \sum_{i = 1}^{n} d_{i}^{2}

$S_{xy}=S_{xx} - \frac{1}{2} \sum_{i=1}^n{d_i^2}$

スピアマンの相関係数の式は私たちの理解の範囲内です！

r_{S} = \frac{S_{x y}}{\sqrt{S_{x x} S_{y y}}} = \frac{S_{x x} - \frac{1}{2} \sum_{i} d_{i}^{2}}{S_{x x}} = 1 - \frac{\sum_{i} d_{i}^{2}}{2 S_{x x}}

$r_S = \frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}} = \frac{S_{xx}-\frac{1}{2}\sum_i{d_i^2}}{S_{xx}} = 1 - \frac{\sum_i{d_i^2}}{2S_{xx}}$

という以前の結果を代入するはジョブを終了します。 $S_{xx}=\frac{1}{12}n(n^2-1)$

r_{S} = 1 - \frac{\sum_{i} d_{i}^{2}}{\frac{2}{12} n (n^{2} - 1)} = 1 - \frac{6 \sum_{i} d_{i}^{2}}{n (n^{2} - 1)}

$r_S = 1 - \frac{\sum_i{d_i^2}}{\frac{2}{12}n(n^2-1)} = 1 - \frac{6\sum_i{d_i^2}}{n(n^2-1)}$

— 銀魚
ソース