Gaussian RBFカーネルに有限次元の特徴空間がないことを証明する方法は?


14

動径基底関数k x y = exp | | x y | | 2に対してそれを証明する方法k(x,y)=exp(||xy||2)2σ2)いかなる有限次元の特徴空間がないH一部のように、Φ:RnH我々は?k(x,y)=Φ(x),Φ(y)


この質問は数学にとってより適切ですか?
レオ

1
考えられる攻撃計画の1つは、閉じていない部分空間を示すことです。H
ニック・アルジェ

@Nickアルジェ:多分、このことができます:stats.stackexchange.com/questions/80398/...

回答:


11

ムーア・Aronszajn定理対称正定値カーネルがユニークな再生核ヒルベルト空間に関連付けられていることを保証します。(RKHSは一意ですが、マッピング自体は一意ではありません。)

したがって、ガウスカーネル(またはRBF)に対応する無限次元RKHSを提示することで、質問に答えることができます。この詳細な研究は、「ガウスRBFカーネルのカーネルヒルベルト空間の再現に関する明示的な説明」、Steinwart et al。


2

ガウスRBFカーネルは、ドメインX × Xで定義され、Xには無限の数のベクトルが含まれていると仮定します。一つは、(証明することができ、彼らはフルランクである理由ガウスカーネルを、? )の異なるベクターのいずれかのセットのためにというxは1をxは、mはX行列kはX IX J、M × M X 1k(x,y)X×XXx1,...,xmX(k(xi,xj))m×mた手段、特異ないというベクトルは線形独立です。したがって、カーネル kの特徴空間 Hは有限数の次元を持つことはできません。Φ(x1),...,Φ(xm)Hk


ここで、無限のトレーニングサンプルであっても、がトレーニングサンプルのサイズに等しい次元の空間にマッピングできるという「直感的な」説明を見つけます。stats.stackexchange.comΦ
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.