リッジ回帰の文脈におけるラグランジアン緩和

「統計的学習の要素」（第2版）p63で、著者はリッジ回帰問題の次の2つの定式化を示しています。

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \left\{ \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 + \lambda \sum_{j=1}^p \beta_j^2 \right\}$$

そして

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 \text{, subject to } \sum_{j=1}^p \beta_j^2 \leq t.$$

この2つは同等であり、パラメーターと間には1対1の対応があると主張されています。$\lambda$$t$

最初の定式化は2番目の定式化のラグランジアン緩和であると思われます。しかし、ラグランジアンリラクゼーションがどのように、またはなぜ機能するのか、直感的に理解できたことはありません。

2つの定式化が実際に同等であることを示す簡単な方法はありますか？選択する必要がある場合は、厳密さよりも直感を好むでしょう。

ありがとう。

エンベロープ定理を使用すると、対応を最も簡単に表示できます。

まず、標準ラグランジアンには追加の項があります。を与えられたとおりに扱っているだけなら、これは最大化の問題に影響を与えないので、Hastieらはそれをやめました。$\lambda \cdot t$$\lambda$

ここで、完全なラグランジアンをに関して微分すると、エンベロープ定理は、最大であるため、を介したの間接効果を無視できると言います。残るのは、からのラグランジュです。$t$$t$$\beta$$\lambda \cdot t$

しかし、これは直感的に何を意味しますか？制約は最大でバインドするため、最大で評価されるラグランジアンの導関数は、元の目的の導関数と同じです。したがって、ラグランジュ乗数は、を増やすことによって制約を緩和するシャドウ価格（目的に関する値）を与えます。$t$

私はこれがHastieらの対応だと思います。を参照しています。