Regresja grzbietowa - interpretacja bayesowska

15

Słyszałem, że regresję grzbietu można wyprowadzić jako średnią rozkładu z tyłu, jeśli uprzednio zostanie odpowiednio wybrany. Czy intuicja, że ​​ograniczenia określone przez współczynniki regresji przez wcześniejsze (np. Standardowe rozkłady normalne około 0) są identyczne / zastępuje karę ustawioną na kwadrat wielkości współczynników? Czy przeor musi mieć charakter gaussowski, aby zachować tę równoważność?

użytkownik1885116
źródło

Odpowiedzi:

15

β=0|β|P.

Frank Harrell
źródło
10

Dwa punkty:

Rozkład tylny w przypadku Bayesa jest rozkładem. Oszacowanie regresji grzbietu jest po prostu wektoremβ^a nie dystrybucja. Dlatego nie są całkowicie równoważne.

Prawdą jest, że w przypadku wielowymiarowego prawdopodobieństwa normalnego przed i wielowymiarowego prawdopodobieństwa normalnego, tylny jest wielowymiarowy normalny ze średnią, która jest oszacowaniem regresji grzbietu dla odpowiednio wybranego parametru grzbietu.

Dowód na to zależy od konkretnej formy wcześniejszego i prawdopodobieństwa i nie działa w przypadku bardziej ogólnych priorytetów lub funkcji prawdopodobieństwa.

Brian Borchers
źródło