ガウス過程の共分散

ガウシアンプロセスで共分散を計算するための式について少し混乱しています（分散が追加されていると、常に明示的に示されるとは限らないため、常に混乱します）。混乱の起源は、式はで与えられているということである司教によってパターン認識と機械学習とラスムッセンによる機械学習のためのガウス過程異なっています。

GPの平均は次の関係で与えられます：

μ = K (X_{*}, X) [K (X, X) + σ^{2} I]^{- 1} y

$\mu = K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}y$

Bishopによる分散（ページ番号：308）は次のとおりです：

Σ = [K (X_{*}, X_{*}) + σ^{2}] - K (X_{*}, X) [K (X, X) + σ^{2} I]^{- 1} K (X, X_{*})

$\Sigma = [K(X_*, X_*)+\sigma^2] - K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}K(X, X_*)$

Rasmussenによる分散（ページ番号：16）は次のとおりです：

Σ = K (X_{*}, X_{*}) - K (X_{*}, X) [K (X, X) + σ^{2} I]^{- 1} K (X, X_{*})

$\Sigma = K(X_*, X_*) - K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}K(X, X_*)$

私の疑問は、共分散行列 RHSの最初の項に分散があるかどうかです。または私は物事を台無しにしていますか？ $\Sigma$

さらに情報が必要な場合はお知らせください。

machine-learning covariance covariance-matrix kernel-trick gaussian-process

— pkj
ソース

ノイズパラメータは、尤度関数、つまりノイズ関数のパラメータです。 $\sigma^2$

有するものの分散である（観察）。ないものは、の分散です（潜在変数=観測値-ノイズ）。したがって、それらはによって互いに離れています。これは、入力変数すべての値に対して同じです。 $+\sigma^2$ $y$ $f$ $\sigma^2$ $x$ 。

数式は私には正しく見えます。ご覧のとおり、の分散（ノイズのない観測値）もノイズパラメータに依存しています。それも理にかなっています。ノイズの推定は、（ノイズのない）潜在変数の不確実性の推定（つまり、分散）に影響します。 $y$

混乱を避けるために、私はそれらをおよびます。 $\mathrm{var}(y)$ $\mathrm{var}(f)$

もう1つ：示した2つの式は、行列ではなくスカラーです。共分散行列は、ではなくです。は単一の次元変数（または）であるため、共分散ではなく分散です。 $\Sigma$ $K$ $\Sigma$ $\Sigma$ $1$ $y$ $f$

— シーダ
ソース