Relaksacja Lagrangian w kontekście regresji kalenicowej

W „Elementach uczenia statystycznego” (wydanie drugie), s. 63, autorzy podają następujące dwa sformułowania problemu regresji kalenicy:

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \left\{ \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 + \lambda \sum_{j=1}^p \beta_j^2 \right\}$$

i

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 \text{, subject to } \sum_{j=1}^p \beta_j^2 \leq t.$$

Uważa się, że te dwa są równoważne, i że istnieje przyporządkowanie jeden-do-jednego między parametrami i .$\lambda$$t$

Wydaje się, że pierwsze sformułowanie jest lagranżowskim rozluźnieniem drugiego. Jednak nigdy nie miałem intuicyjnego zrozumienia, jak i dlaczego działają relaksacje Lagrangian.

Czy istnieje prosty sposób wykazania, że ​​te dwa preparaty są rzeczywiście równoważne? Gdybym musiał wybrać, wolałbym intuicję niż rygor.

Dzięki.

Korespondencję można najłatwiej pokazać za pomocą twierdzenia o kopercie .

$\lambda \cdot t$$\lambda$

$t$$t$$\beta$$\lambda \cdot t$

$t$

Zakładam, że taka jest korespondencja Hastie i in. odnoszą się do.