GPMLでの完全なベイズハイパーパラメーターの選択


8

周辺尤度(2)を最大化する代わりに、GPMLコードを使用して、ハイパーパラメーター(たとえば、共分散スケール)の近似完全ベイズ(1)選択を実行することは可能ですか?MCMCメソッドを使用して事前にハイパーパラメーターを含む積分を解くと、オーバーフィッティングを処理するときにより良い結果が得られると思います。私の知る限りでは、GPMLフレームワークにはこれらの計算は含まれていませんが、おそらく他のサードパーティのコードがあります。


(1)秒 5.2、Ch。機械学習のためのガウス過程における5、Rasmussen&Williams、2006

(2)GPMLドキュメントの「回帰」セクション


INLAをご存知ですか?あなたが求めているものかもしれません。
確率

これはあなたの質問に追加するものではありませんが、長さスケールに事前分布を配置するこの領域で有用な作業を見つけることができましたか?GPの長さスケールを数値的に最適化するという考えは絶対に嫌いです
sachinruk '15年

(+1)すばらしい質問です。これはMCMCではありませんが、興味がある場合は、ラプラス近似を介してGPMLでハイパーパラメーターを部分的に周辺化できるサードパーティパッケージがあります。この質問と関連する回答をご覧ください。
lacerbi

回答:


1

私の意見ではそれをすべて持っているGPstuffと呼ばれるガウスプロセスを使用した機械学習用の別のパッケージがあります。MCMC、グリッドへの統合などを使用して、ハイパーパラメーターを取り除きます。

注意:ドキュメントでは、ハイパーパラメーターを単にパラメーターと呼んでいます。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.