ベイジアンリッジ回帰はベイジアン線形回帰の別名ですか？

私はインターネットでベイジアンリッジ回帰について検索しましたが、私が得た結果のほとんどはベイジアン線形回帰についてです。公式はかなり似ているので、両方とも同じものなのでしょうか

リッジ回帰はノルムを使用した正則化を使用しますが、ベイズ回帰は、パラメーターに明示的な事前分布を持つ確率論的な用語で定義された回帰モデルです。事前分布の選択は、正則化効果をもたらす可能性があります。たとえば、係数にラプラス事前分布を使用することは、正則化と同等です。リッジ回帰は一種の回帰モデルであり、ベイズアプローチは、さまざまなモデルに適用できる統計モデルを定義および推定する一般的な方法であるため、同じではありません。$L_2$L 1$L_1$

リッジ回帰モデルは次のように定義されます

$$\underset{\beta}{\operatorname{arg\,min}}\; \|y - X\beta\|^2_2 + \lambda \|\beta\|^2_2$$

ベイズの設定では、ベイズの定理を使用して事後分布を推定します

$$p(\theta|X) \propto p(X|\theta)\,p(\theta)$$

リッジ回帰とは、パラメーターの正規尤度と事前分布を仮定することを意味します。正規化定数を削除すると、正規分布の対数密度関数は次のようになります。

$$\begin{align} \log p(x|\mu,\sigma) &= \log\Big[\frac{1}{\sigma \sqrt{2\pi} } e^{-\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^2}\Big] \\ &= \log\Big[\frac{1}{\sigma \sqrt{2\pi} }\Big] + \log\Big[e^{-\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^2}\Big] \\ &\propto -\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^2 \\ &\propto -\frac{1}{\sigma^2} \|x - \mu\|^2_2 \end{align}$$

これで、通常の事前確率で通常の対数尤度を最大化することは、リッジペナルティで2乗損失を最小化することと同等であることがわかります。

$$\begin{align} \underset{\beta}{\operatorname{arg\,max}}& \; \log\mathcal{N}(y|X\beta, \sigma) + \log\mathcal{N}(0, \tau) \\ = \underset{\beta}{\operatorname{arg\,min}}&\; -\Big\{\log\mathcal{N}(y|X\beta, \sigma) + \log\mathcal{N}(0, \tau)\Big\} \\ = \underset{\beta}{\operatorname{arg\,min}}&\; \frac{1}{\sigma^2}\|y - X\beta\|^2_2 + \frac{1}{\tau^2} \|\beta\|^2_2 \end{align}$$

リッジの回帰と正則化の詳細については、スレッドを参照してください。対角線に定数を追加すると、リッジの推定値がOLSよりもよくなるのはなぜですか？、および収縮法はどのような問題を解決しますか？、およびlassoとridgeをいつ使用する必要がありますか？、そしてリッジ回帰が「リッジ」と呼ばれるのはなぜですか、なぜそれが必要なのですか、が無限大になるとどうなりますか？$\lambda$、そして私たちが持っている他の多くの。