なぜ確率的PCAは潜在変数よりガウス事前分布を使用するのですか?


8

現在、確率的PCAに関する論文を読んでいますが、潜在変数にガウスの事前(他の事前ではなく)が選ばれるのはなぜですか?それは単純な理由だけですか、それとも別の理由がありますか?

参照:

回答:


4

確率的PCA

確率的PCAは、次の形式のガウス潜在変数モデルです。観測は変数で構成され、潜在変数は変数で構成されると想定されます。潜在的なオーバーオーバー変数はゼロ平均単位共分散ガウス:あり、潜在変数が与えられた場合の観測変数の条件付き分布は このモデルの最尤解は、データの最初の PCAコンポーネントによって与えられることがわかります。 D ZR M M < DのZN0IxRDDzRMM<D

zN(0,I),
M W ML
x|zN(Wz+μ,σ2I).
MWMLは、共分散行列(主軸)の上部固有ベクトルに比例します。詳細については、チップとビショップを参照してください。

なぜガウス事前分布を使用するのですか?

  1. 前(または少なくとも大部分の他の事前確率のために)他のための最尤解があろうない標準のPCA溶液に対応するので、「確率的PCA」この潜在変数モデルを呼び出す理由はないだろう。ガウスは、PCAを引き起こすものです。N(0,I)

  2. 他のほとんどの事前計算では、問題がはるかに複雑になり、分析的にも扱いにくくなります。ガウス事前分布とガウス条件付き分布があると、ガウス周辺分布になり、その共分散行列はによって与えられることが簡単にわかります。非ガウス分布は、操作がはるかに困難です。WW + σ 2 Ip(x)WW+σ2I

  3. 標準PCAのタスクは共分散行列(つまり、2次モーメント)をモデル化することなので、ガウス周辺分布があることも魅力的です。PCAは、データ配信のより高い瞬間には関心がありません。ガウス分布は、平均と共分散の最初の2つのモーメントによって完全に記述されます。PCAはデータのこれらの側面を処理しないため、より複雑で柔軟な分布を使用したくありません。p(x)

  4. ガウスの事前分布には単位共分散行列があります。これは、ローディングによってのみ観測された共分散を引き起こす無相関の潜在変数を持つことになるためです。W


ありがとうございました !それは本当に明確です!最初の点については同意しますが、「なぜこのモデルがPPCAと呼ばれるのか」という質問に対する答えのようです。ポイント2から4は、まさに私が期待していたことです。私は、質問を「ガウス分布を事前に取る利点は何ですか?」に変えるべきだったのです。
Irminsul
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.