ベイジアンガウス過程回帰からの予測は正規分布ですか?
トピックは同じですが、これは他の質問とは直接関係ありません。それはおそらく非常に些細な質問でもありますが、私と一緒にください:)ガウスプロセス回帰の使用について同僚と話していたところ、彼は2つの主張に同意しませんでした: GPRは、予測子が正規分布している場合の応答のモデル化にのみ使用できます。 GPRモデルの応答は常に正規分布です。 最初のアサーションは偽(実際、GPRは予測子の結合分布についてまったく仮定を立てていません)であると思いますが、2番目のアサーションは、ハイパーパラメーターが固定されている場合にのみ真です。ただし、完全なベイズアプローチに従い、ハイパーパラメーターの事後確率分布を導出した場合、事後予測分布は正規分布ではなくなります。これは、ハイパーパラメーターと観測を条件とする応答の分布のみです。正規分布。数式では: y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) と前にGPを想定 f(x)f(x)f(\mathbf{x})。しましょう{(x1,y1,)…,(xd,yd,)}{(x1,y1,)…,(xd,yd,)}\{(\mathbf{x_1},y_1,)\dots,(\mathbf{x_d},y_d,)\} 観測値のセットである場合、ハイパーパラメーターの事後確率分布は p(θ|y)∝p(y|θ)p(θ)p(θ|y)∝p(y|θ)p(θ)p(\boldsymbol{\theta}|\mathbf{y})\propto p(\mathbf{y}|\boldsymbol{\theta})p(\boldsymbol{\theta}) ここで、ハイパーパラメーターと観測値を条件とする新しい応答ベクトルの分布、つまり、通常は配布されます(そうですか?)ただし、事後予測分布はy∗y∗\mathbf{y^*}p(y∗|θ,y)p(y∗|θ,y)p(\mathbf{y^*}|\boldsymbol{\theta},\mathbf{y}) p(y∗|y)=∫p(y∗,θ|y)p(θ)dθ=∫p(y∗|θ,y)p(θ|y)p(θ)dθp(y∗|y)=∫p(y∗,θ|y)p(θ)dθ=∫p(y∗|θ,y)p(θ|y)p(θ)dθp(\mathbf{y^*}|\mathbf{y})=\int{p(\mathbf{y^*},\boldsymbol{\theta}|\mathbf{y})p(\boldsymbol{\theta})}d\boldsymbol{\theta}=\int{p(\mathbf{y^*}|\boldsymbol{\theta},\mathbf{y})p(\boldsymbol{\theta}|\mathbf{y})p(\boldsymbol{\theta})}d\boldsymbol{\theta} 積分では、項が(多変量)正規確率密度関数です。とは、当面の統計的問題をモデル化するのに適切と考えるあらゆる分布を持っているかもしれません。これら3つの分布の積の積分wboldが正規分布していると考える理由はありません。したがって、ベクトルが正規分布しているとは言えません。これは正しいです?p(y∗|θ,y)p(y∗|θ,y)p(\mathbf{y^*}|\boldsymbol{\theta},\mathbf{y})p(y|θ)p(y|θ)p(\mathbf{y}|\boldsymbol{\theta})p(θ)p(θ)p(\boldsymbol{\theta})θθ\boldsymbol{\theta}y∗|yy∗|y\mathbf{y^*}|\mathbf{y}