3x3相関行列の完成：3つの与えられた2つの係数

20

私はインタビューでこの質問をされました。

我々は、フォームの相関行列を持っていると言うことができます

[\begin{matrix} 1 & 0.6 & 0.8 \\ 0.6 & 1 & γ \\ 0.8 & γ & 1 \end{matrix}]

$\begin{bmatrix}1&0.6&0.8\\0.6&1&\gamma\\0.8&\gamma&1\end{bmatrix}$

この相関行列から、ガンマの値を見つけるように求められました。
固有値はすべて0以上である必要があるため、固有値を使用して何かを実行できると考えました（行列は半正定でなければなりません）-しかし、このアプローチでは答えが得られないと思います。トリックがありません。

同じ問題を解決するためのヒントを教えてください。

pearson-r correlation-matrix

— 初心者
ソース

コメントは詳細なディスカッション用ではありません。この会話はチャットに移動されました。

— whuber

1

このサイトを検索すると、関連する式を含む（複数の）スレッドのいずれかに直接つながりました：stats.stackexchange.com/questions/5747。felixの回答には、いくつかの有用なプロットもあります。

— whuber

21

我々はすでに知っている間に制限されている相関行列が半正定値であるべきであり、したがって、その主たる未成年者が非負でなければなりません $\gamma$ $[-1,1]$

したがって、

\begin{aligned} 1 (1 - γ^{2}) - 0.6 (0.6 - 0.8 γ) + 0.8 (0.6 γ - 0.8) & \geq 0 \\ - γ^{2} + 0.96 γ \geq 0 \\ ⟹ γ (γ - 0.96) \leq 0 and - 1 \leq γ \leq 1 \\ ⟹ 0 \leq γ \leq 0.96 \end{aligned}

$\begin{align*} 1(1-\gamma^2)-0.6(0.6-0.8\gamma)+0.8(0.6\gamma-0.8) &\geq 0\\ -\gamma^2+0.96\gamma \geq 0\\ \implies \gamma(\gamma-0.96) \leq 0 \text{ and } -1 \leq \gamma \leq 1 \\ \implies 0 \leq \gamma \leq 0.96 \end{align*}$

— 権利
ソース

4

@初心者シルベスターの基準

— -rightskewed

素晴らしい答え。ガンマを取得する一般的な方法は、上記の方程式を解きながら可能な限り最小の核ノルム（別名ky-fanノルム）の相関行列につながるガンマを見つけることです。詳細については、「マトリックス補完」、「圧縮センシング」を調べるか、トピックbit.ly/2iwY1nWに関するこのレポートを確認してください。

— ムスタファSエイサー

1

これが証明されるために、あなたが他の方向に結果を必要とするすべての非自明な主要な未成年者である場合は

と行列が決定持つ

、その後、行列は半正定値です。

> 0

$>0$

\geq 0

$\geq 0$

— フェデリコポロニ

10

次に、よりシンプルな（そしておそらくより直感的な）ソリューションを示します。

共分散は、抽象的なベクトル空間上の内積と考えてください。次に、相関行列のエントリは、ベクトルについては、、、アングルブラケットは、表す角度との間のと。 $\cos\langle\mathbf{v}_i,\mathbf{v}_j\rangle$ $\mathbf{v}_1$ $\mathbf{v}_2$ $\mathbf{v}_3$ $\langle\mathbf{v}_i,\mathbf{v}_j\rangle$ $\mathbf{v}_i$ $\mathbf{v}_j$

ことを視覚化することは難しいことではありませんで囲まれています $\langle\mathbf{v}_2,\mathbf{v}_3\rangle$ 。その余弦に結合し（）このようにしてある。基本的な三角法は、与え $|\langle\mathbf{v}_1,\mathbf{v}_2\rangle\pm\langle\mathbf{v}_1,\mathbf{v}_3\rangle|$ $\gamma$ $\cos\left[\langle\mathbf{v}_1,\mathbf{v}_2\rangle\pm\langle\mathbf{v}_1,\mathbf{v}_3\rangle\right]$ 。 $\gamma\in[0.6\times 0.8 - 0.6\times 0.8, 0.6\times 0.8 + 0.6\times 0.8] = [0, 0.96]$

編集：という注意最後の行では、実際にある $0.6\times 0.8 \mp 0.6\times 0.8$ -0.6と0.8の2番目の出現は、おかげで偶然に発生します $\cos\langle\mathbf{v}_1,\mathbf{v}_2\rangle\cos\langle\mathbf{v}_1,\mathbf{v}_3\rangle\mp \sin\langle\mathbf{v}_1,\mathbf{v}_3\rangle\sin\langle\mathbf{v}_1,\mathbf{v}_2\rangle$ $0.6^2+0.8^2=1$ 。

— ヤグル
ソース

1

+1、正当な幾何学的推論（それにもかかわらず、私はあなたの計算をチェックしませんでした）。これは、質問に対するコメントで提案したとおりです（残念ながら、すべてのコメントはモデレーターによってチャットに移動されました。上のリンクを参照してください）。

— ttnphns

あなたの計算は下限に対して常にゼロを与えるように見えるので、すべての相関が非負でなければならないことを「証明」しているように思えます。そうでない場合、一般的な計算の仕組みについて詳しく説明していただけますか？私は本当に信頼していない-おそらくか理解していない-あなたのバインド、3次元以上でいつでも見つけることができるので

両方いる

し、その後にあなたのバウンドが暗示

常にゼロです！（cc @ttnphns）

v_{1}

$v_1$

v_{1} \cdot v_{2} = v_{1} \cdot v_{3} = 0

$v_1\cdot v_2=v_1\cdot v_3=0$

v_{2} \cdot v_{3}

$v_2\cdot v_3$

— whuber

@whuber：混乱して申し訳ありません。計算では、下限が常にゼロになるとは限りません。答えを修正しました。

— ヤングル

最後の懸念にどのように対応しますか？あなたの境界が間違っていることを示しているようです。

— whuber

@whuber：あなたの場合、⟨v1、v2⟩=⟨v1、v3⟩=π/ 2、したがって境界|⟨v1、v2⟩±⟨v1、v3⟩| 期待どおり[0、π]です。γ上のバウンドcos⟨v1、v2⟩cos⟨v1、v3⟩∓sin⟨v1、v3⟩sin⟨v1、v2⟩も[-1、1]になります。

— ヤングル

4

答えに対する最初のコメントで私が意味したことと、@ yangleが話していると思うことは次のとおりです（ただし、彼らの計算をフォロー/チェックしませんでした）。

「行列は半正の正でなければなりません」は、変数ベクトルがユークリッド空間の束であることを意味します。3つのベクトル長が1に固定されているため、相関行列の場合は共分散行列よりも簡単です。3つの単位ベクトルXYZを想像してくださいは角度の余弦であることに注意してください。だから、、及び。何のための境界線であるかもしれない $r$ $\cos \alpha=r_{xy}=0.6$ $\cos \beta=r_{yz}=0.8$ $\cos \gamma=r_{xz}$ ？その相関は、Yを囲むZによって定義される任意の値を取ることができます（角度を維持します）。 $r_{yz}=0.8$

それが回転するとき、2つの位置は究極のwrt Xとして注目に値します。どちらもZが平面XYに入るときです。1つはXとYの間、もう1つはYの反対側にあります。これらは青と赤のベクトルで示されます。これらの両方の位置で、構成XYZ（相関行列）は特異です。そして、これらは、ZがXに達することができる最小角度と最大角度（したがって相関）です。

平面上の角度の和または差を計算するための三角公式を選択すると、次のようになります。

境界として。 $\cos \gamma = r_{xy} r_{yz} \mp \sqrt{(1-r_{xy}^2)(1-r_{yz}^2)} = [0,0.96]$

この幾何学的ビューは、@ rightskewedが代数的用語（マイナーなど）で表現したものの別の（および3Dの場合はより具体的で単純な）外観です。

— ttnphns
ソース

X、Y、Zがランダム変数である場合、それらを3D空間のベクトルにどのようにマッピングしますか（1D空間のベクトルのみになります）。また、RVがNx1の場合、それらはN次元空間のベクトルになりますか？

— 初心者

@noviceはい、それらは最初はNd空間の3つのベクトルですが、3つの次元のみが非冗長です。回答の2番目のリンクをたどり、それが説明されている主題分野への参照をさらに読んでください。

— ttnphns

4

主要な未成年者と遊ぶのは3 x 3または4 x 4の問題では問題ないかもしれませんが、高次元ではガスと数値安定性が不足しています。

このような単一の「自由な」パラメータの問題の場合、行列psdを構成するすべての値のセットが単一の間隔になることが簡単にわかります。したがって、このような値の最小値と最大値を見つければ十分です。これは、一対の線形半正定値計画（SDP）の問題を数値的に解くことで簡単に実現できます。

行列の対象となるγを最小化するのはpsdです。
行列の対象となるγを最大化するのはpsdです。

たとえば、これらの問題は、MATLABでYALMIPを使用して定式化および数値的に解決できます。

ガンマ= sdpvar; A = [1.6 .8; .6 1ガンマ; .8ガンマ1]; 最適化（A> = 0、ガンマ）
optimize（A> = 0、-gamma）

速く、簡単で、信頼できる。

ところで、質問をするスマートなパンツのインタビュアーが、十分に開発され、実用的な問題を確実に解決するための洗練された使いやすい数値オプティマイザーを備えたSemiDefinite Programmingを使用して、この問題を解決できることを知らない場合、難しい変種、これはもはや1870年ではないことを彼/彼女に伝えてください、そして今は現代の計算開発を利用する時です。

— マーク・L・ストーン
ソース

4

次の凸集合を考えてみましょう

{（ バツ 、 y 、 z ） \in R^{3} ： [\begin{matrix} 1 & バツ & y \\ バツ & 1 & z \\ y & z & 1 \end{matrix}] ⪰ O_{3}}

$\Bigg\{ (x,y,z) \in \mathbb R^3 : \begin{bmatrix} 1 & x & y\\ x & 1 & z\\ y & z & 1\end{bmatrix} \succeq \mathrm O_3 \Bigg\}$

これは、次元楕円体という名前のスペクトル面体です。これがこの省略の描写です $3$

この省略形を定義される平面と交差させるおよびで端点が黄色で色付けされた線分が得られます $x=0.6$ $y=0.8$

楕円の境界は、次によって定義される立方体の表面です。

デット [\begin{matrix} 1 & バツ & y \\ バツ & 1 & z \\ y & z & 1 \end{matrix}] = 1 + 2 バツ y z - {バツ}^{2} - y^{2} - z^{2} = 0

$\det \begin{bmatrix} 1 & x & y\\ x & 1 & z\\ y & z & 1\end{bmatrix} = 1 + 2 x y z - x^2 - y^2 - z^2 = 0$

もし $x=0.6$ $y=0.8$

0.96 z - z^{2} = z （ 0.96 - z ） = 0

$0.96 z - z^2 = z (0.96 - z) = 0$

したがって、楕円と2つの平面の交点は、次のようにパラメータ化された線分です。

{（ 0.6 、 0.8 、 t ） ∣ 0 \leq t \leq 0.96}

$\{ (0.6, 0.8, t) \mid 0 \leq t \leq 0.96 \}$

— ロドリゴ・デ・アゼベド
ソース

1

すべての正の半正定行列は相関/共分散行列です（逆も同様です）。

$A$ $A$ $A=UDU^T$ $U$ $D$ $B= U D^{1/2} U^T$ $D^{1/2}$

$\mathbf{x}$ $B \mathbf{x}$ $A$

$R=E[\mathbf{x}\mathbf{x}^T]$ $R = R^T$ $\mathbf{a}^T R \mathbf{a} = E[(\mathbf{a}^T \mathbf{x})^2] \geq 0$ $\mathbf{a}$ $R$

$2^n$ $n$

— バットマン
ソース