スプラインとガウス過程回帰


14

Gaussian Process Regression(GPR)は、柔軟な非線形モデルのフィッティングにスプラインを使用する代わりになることを知っています。特にベイジアン回帰フレームワークにおいて、どちらの状況が他の状況よりも適しているかを知りたいと思います。

私はすでに見てきましたスプライン、平滑化スプライン、およびガウス過程エミュレータを使用することの利点/欠点は何?しかし、この投稿にはGPRに関するものは何もないようです。


GPは、非線形関数を近似するためのよりデータ駆動型のアプローチだと思います。スプラインは通常、n番目の多項式に制限されます。GPは、多項式よりも複雑な関数をモデル化できます(100%確実ではありません)。
ヴラディスラフドヴガレス

回答:


14

@j__の答えに同意します。

ただし、スプラインはガウス過程回帰/クリギングの特殊なケースにすぎないという事実を強調したいと思います。

ガウス過程回帰で特定のタイプのカーネルを使用すると、スプライン近似モデルを正確に取得できます。

この事実は、Kimeldorf and Wahba(1970)によってこの論文で証明されています。クリギングとカーネルヒルベルト空間の再現(RKHS)で使用されるカーネル間のリンクを使用するため、かなり技術的です。


2
例として、1次元の場合、有名な平滑化スプラインのGPモデルは、単純に二重に統合されたガウスホワイトノイズです。これは、1980年代の終わりに効率的なアルゴリズムを設計するために、Craig AnsleyとRobert Kohnによって使用されてきました。この同等性は、RKHSの深い数学に飛び込むことなく部分的に理解できると思います。
イブ

これは非常に良い答えです。
アストリッド

6

非常に興味深い質問です。ガウス過程とスムージングスプラインの等価物は、キメルドルフとワバ1970で示されています。制約付き補間の場合のこの対応の一般化は、Bay等で開発されました。2016年。

ベイ等。2016.制約付き補間のためのKimeldorf-Wahba通信の一般化。統計の電子ジャーナル。

このホワイトペーパーでは、ベイジアンアプローチの利点について説明しました。


2

@xeonのコメントにも同意します。GPRは無限の数の可能な関数に確率分布を配置し、平均関数(スプラインのような)はMAP推定のみですが、それについて分散もあります。これにより、実験的設計(最大限に有益な入力データの選択)などの大きな機会が得られます。また、モデルの積分(直交)を実行したい場合、GPにはガウスの結果があり、結果に信頼性を与えることができます。少なくとも標準のスプラインモデルでは、これは不可能です。

実際には、GPRは(私の経験では)より有益な結果をもたらしますが、私の経験ではスプラインモデルの方が速いようです。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.