タグ付けされた質問 「covariance-matrix」

動機：私は、MATLAB（無香料カルマンフィルター）で状態推定器を書いています。これは、反復ごとに（つまり、共分散行列に対して）共分散行列の（上三角）平方根の更新を要求します。、）であることは事実です。必要な計算を実行するには、MATLAB 関数を使用して、ランク1のコレスキー更新とダウンデートを行う必要があります。P P = S S TSSSPPPP= SSTP=SSTP=SS^{T}cholupdate 問題：残念ながら、反復の過程で、この行列は正定性を失う場合があります。コレスキーのダウンデートは、非PDマトリックスでは失敗します。SSS 私の質問は、MATLABで正定にする簡単で信頼できる方法はありますか？SSS （またはより一般的には、任意の共分散行列を正定にする良い方法はありますか？バツXX） 注： SSSはフルランクです 私は固有分解アプローチを試しました（これは機能しませんでした）。これは基本的に見つけ、すべての負の要素を設定し、新しいを再構築することを含み、ここでは正の要素のみをもつ行列です。 V 、D = 1 × 10 − 8 S ′ = V ′ D ′ V ′ T V ′、D ′S= VD VTS=VDVTS = VDV^{T}V、D = 1 × 10− 8V,D=1×10−8V,D = 1 \times 10^{-8}S』= V』D』V′ TS′=V′D′V′TS' …

9 matlab  covariance-matrix  numerics 

では、標準偏差、分散、および共分散がありますが、共同標準偏差はありますか？ そうでない場合、なぜですか？基本的な数学的理由はありますか、それとも単なる慣習ですか？ もしそうなら、なぜそれはより多く使用されないのか、または少なくともGoogle検索を使用して見つけるのが本当に難しいのですか？ これがばかげた質問であることを意味するのではなく、私はたくさんの式を暗記するのではなく、本当に統計に質問しようとしています。

8 variance  standard-deviation  covariance-matrix 

仮定であるK × 1確率変数のベクトル。次にしてください確認しているE X "（E X X "）- 1 E X ≤ 1。バツXXk × 1k×1k\times 1Eバツ』（Eバツバツ』）− 1Eバツ≤ 1EX′(EXX′)−1EX≤1EX^{\prime}(EXX^{\prime})^{-1}EX\leq 1 ときこれは、よく知られた結果である（E X ）2 ≤ E X 2。しかし、これを一般的にどのように主張するのでしょうか？K= 1K=1K=1(EX)2≤EX2(EX)2≤EX2(EX)^{2}\leq EX^{2}

8 self-study  mathematical-statistics  expected-value  matrix  covariance-matrix 

ガウシアンプロセスで共分散を計算するための式について少し混乱しています（分散が追加されていると、常に明示的に示されるとは限らないため、常に混乱します）。混乱の起源は、式はで与えられているということである司教によってパターン認識と機械学習とラスムッセンによる機械学習のためのガウス過程異なっています。 GPの平均は次の関係で与えられます： μ = K（X∗、X）[ K（X、X）+ σ2私]− 1yμ=K(X∗,X)[K(X,X)+σ2I]−1y\mu = K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}y Bishopによる分散（ページ番号：308）は次のとおりです： Σ = [ K（X∗、X∗）+ σ2] − K（X∗、X）[ K（X、X）+ σ2私]− 1K（X、X∗）Σ=[K(X∗,X∗)+σ2]−K(X∗,X)[K(X,X)+σ2I]−1K(X,X∗)\Sigma = [K(X_*, X_*)+\sigma^2] - K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}K(X, X_*) Rasmussenによる分散（ページ番号：16）は次のとおりです： Σ = K（X∗、X∗）− K（X∗、X）[ K（X、X）+ σ2私]− 1K（X、X∗）Σ=K(X∗,X∗)−K(X∗,X)[K(X,X)+σ2I]−1K(X,X∗)\Sigma = K(X_*, X_*) - K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}K(X, X_*) 私の疑問は、共分散行列 RHSの最初の項に分散があるかどうかです。または私は物事を台無しにしていますか？ΣΣ\Sigma さらに情報が必要な場合はお知らせください。

8 machine-learning  covariance  covariance-matrix  kernel-trick  gaussian-process 

逆共分散行列のスパース条件は、実際の共分散行列にどのように影響しますか？

8 mathematical-statistics  covariance-matrix  linear-algebra 

セイ私はランダムベクトルきたとΣ ≠は、σ 2 Iを。すなわち、元素Y（所定のX βは）相関しています。Y∼N(Xβ,Σ)Y∼N(Xβ,Σ)Y\sim N(X\beta,\Sigma)Σ≠σ2IΣ≠σ2I\Sigma\neq\sigma^2 IYYYXβXβX\beta 天然の推定量ある（X ' Σ - 1 X ）- 1 X ' Σ - 1 Y、およびVAR （β）= （X ' Σ - 1 X ）- 1ββ\beta(X′Σ−1X)−1X′Σ−1Y(X′Σ−1X)−1X′Σ−1Y(X'\Sigma^{-1}X)^{-1}X'\Sigma^{-1}Yvar(β^)=(X′Σ−1X)−1var(β^)=(X′Σ−1X)−1\text{var}(\hat{\beta})=(X'\Sigma^{-1}X)^{-1} 設計コンテキストにおいて、実験者は異なることになるデザインをいじることができ及びΣ従って異なるVAR （β）。最適なデザインを選択するには、私は人々は、多くの場合、最小化への決定しようとしていることがわかり（X " Σを- 1 X ）- 1、この背後にある直感は何ですか？XXXΣΣ\Sigmavar(β^)var(β^)\text{var}(\hat{\beta})(X′Σ−1X)−1(X′Σ−1X)−1(X'\Sigma^{-1} X)^{-1} その要素の合計を最小化しないのはなぜですか？

8 experiment-design  covariance-matrix  determinant 

勾配降下法でモデルのMAP推定値を見つけようとしています。私の以前は、既知の共分散行列をもつ多変量ガウスです。 概念的なレベルでは、私はこれを行う方法を知っていると思いますが、詳細についていくつかの助けを求めていました。特に、問題に対処する簡単な方法がある場合、それは特に役立ちます。 ここでは、私が何だと思う私は実行する必要があります。 各次元について、他の次元での現在の位置を指定して、条件付き分布を見つけます。 これにより、正しい平均と標準偏差を使用して、各次元の局所的な一変量ガウス分布が得られます。 勾配は、これらの単変量分布のそれぞれの導関数のベクトルである必要があると思います。 私の質問には2つの部分があります。 これは最善のアプローチですか、それとももっと簡単な方法がありますか？ このルートに行く必要があると仮定すると、これらの条件付き分布を見つけるための最良の方法は何ですか？

8 normal-distribution  covariance-matrix  regularization  gradient-descent  ridge-regression 

私は観測の 時系列を分散共分散構造とランダム系列に分解しようとしています。nnnvcvc\bf{\mathrm{v_c}}n×nn×nn \times n∑∑\sumvv\bf{\mathrm{v}} したがって、の自己相関関数から分散共分散行列を導出できます。これは、半正定値のテプリッツ行列になります。したがって、適切な行列を計算して、相関系列をランダムな信号に変換できます。 ∑∑\sumvcvc\bf{\mathrm{v_c}}∑−12∑−12\sum^{-\frac{1}{2}} v=∑−12vcv=∑−12vc\bf{\mathrm{v}} = \sum^{-\frac{1}{2}}\bf{\mathrm{v_c}} これは、MATLABのsqrt（m）関数を使用して実行できますが、分散共分散行列のコレスキー分解を検出し、これを使用して相関を誘導することもできます。ただし、sqrtm法とコレスキー法を使用したランダムシリーズの結果は異なります（ただし多少似ています）。 さまざまな行列の平方根を確認する方法を決定するためにいくつかのテキストを読み、固有値分解法などを調べてきました。特定の所定の条件下では一意のソリューションしかないことがわかりますが、これらの一意のソリューションはまだ多くのルーツの1つにすぎないと思いますか？ 私の質問はこれです。ある特定の平方根が別の平方根よりも好ましいと主張する方法はありますか。そうでない場合、すべての可能な解を抽出して、すべての可能なランダム関数を取得できる方法はありますか？

8 time-series  covariance-matrix 

与えられたデータ行列 バツバツX たとえば1000000観測 ××\times 100個の機能、三重対角近似を構築する高速な方法はありますか あ≈cov(X)A≈cov(X）A \approx cov(X)？ 次に、ファクタリングできますA = LLTA=LLTA = L L^T、 LLL 以外はすべて0 Li i − 1 L私 私−1L_{i\ i-1} そして LI IL私私L_{i i}、および解決することにより高速無相関化（ホワイトニング）を行います L x =バツW H I T ELバツ=バツwh私teL x = x_{white}。（「速い」とはO （s i ze X）O（s私ze バツ）O( size\ X )。） （追加、明確化しようとしている）：私は、フルよりも速くて汚れたホワイトナーを探しています c o v （ …

8 variance  approximation  covariance-matrix 

たとえば、は、共分散確率変数です。定義により、共分散行列のエントリは共分散です： また、精度エントリは次の条件を満たすことが知られています： ここで、右側はと他のすべての変数を条件とする共分散です。X∈RnX∈RnX \in \mathbb{R}^nΣ∈Rn×nΣ∈Rn×n\Sigma \in \mathbb{R}^{n\times n}Σij=Cov(Xi,Xj).Σij=Cov(Xi,Xj). \Sigma_{ij} = Cov( X_i,X_j). Σ−1Σ−1\Sigma^{-1}Σ−1ij=Cov(Xi,Xj|{Xk}nk=1∖Xi,Xj}),Σij−1=Cov(Xi,Xj|{Xk}k=1n∖Xi,Xj}), \Sigma^{-1}_{ij} = Cov(X_i,X_j| \{X_k\}_{k=1}^n \backslash X_i,X_j\}), XiXiX_iXjXjX_j または平方根のエントリに対する統計的解釈はありますか？正方行列平方根とは、ような行列を意味します。上記の行列の固有値分解は、私が見る限り、そのようなエントリごとの解釈を与えません。ΣΣ\SigmaΣ−1Σ−1\Sigma^{-1}AAAMMMMtM=AMtM=AM^tM = A

8 interpretation  covariance  covariance-matrix  partial-correlation  precision 

あると仮定します n×pn×p\\n\times p マトリックス MM\mathbf{M}。異なる列ごとの演算子を使用した異なる変換は、新しいp×pp×p\\p\times p 対称行列 SS\mathbf{S}。たとえば、共分散行列 CC\mathbf{C}内積演算子を使用して計算できます。これにより、共分散行列の各値は、元の行列の2つの列の内積になります。MM\mathbf{M} （で割った n−1n−1n-1）： C=1n−1MT⋅MC=1n−1MT⋅M\mathbf{C} = { 1 \over {n-1} } \mathbf{M}^{T} \cdot \mathbf{M} 同様に、相関行列 PP\mathbf{P} によって定義することができます Pij=corr(Ci,Cj)Pij=corr(Ci,Cj)\mathbf{P}_{ij} = \mathrm{corr}(C_i,C_j) どこ CiCi\mathbf{C}_i そして CjCj\mathbf{C}_j の列です CC\mathbf{C}、および corrcorr\mathrm{corr}は、ピアソンの積率係数のような相関の尺度です。この場合、演算子は2変量相関係数です。 この演算子依存の変換には名前がありますか？

8 correlation  terminology  covariance-matrix