Przekształcanie znormalizowanych bet z powrotem w oryginalne zmienne

14

Zdaję sobie sprawę, że jest to prawdopodobnie bardzo proste pytanie, ale po przeszukaniu nie mogę znaleźć odpowiedzi, której szukam.

Mam problem, w którym muszę ustandaryzować zmienne uruchamiające (regresję grzbietu), aby obliczyć szacunki grzbietu bet.

Następnie muszę przekonwertować je z powrotem do oryginalnej skali zmiennych.

Ale jak to zrobić?

Znalazłem wzór na przypadek dwuwymiarowy

β=β^SxSy.

Zostało to podane w D. Gujarati, Basic Econometrics , strona 175, wzór (6.3.8).

Gdzie są estymatory z biegu regresji znormalizowanego zmiennych i jest taka sama estymator przekształcany z powrotem do oryginalnej skali jest próbka odchylenie standardowe regressand i jest próbka odchylenie standardowe.ββ^SySx

Niestety książka nie obejmuje analogicznego wyniku dla regresji wielokrotnej.

Nie jestem też pewien, czy rozumiem przypadek dwuwymiarowy? Prosta manipulacja algebraiczna daje formułę dla w oryginalnej skali:β^

β^=βSySx

Wydaje mi się dziwne, że które zostały obliczone na zmiennych, które są już deflowane przez , musi zostać ponownie deflowane przez aby ponownie przekonwertować? (Plus dlaczego wartości średnie nie są ponownie dodawane?)β^SxSx

Czy ktoś może więc wyjaśnić, jak to zrobić w przypadku wielowymiarowym, najlepiej z pochodną, ​​aby zrozumieć wynik?

Baz
źródło

Odpowiedzi:

26

Dla modelu regresji wykorzystującego znormalizowane zmienne przyjmujemy następującą postać dla linii regresji

E[Y]=β0+j=1kβjzj,

gdzie jest j-tym (standaryzowanym) regresorem, generowanym z przez odjęcie średniej próbki i podzielenie przez próbne odchylenie standardowe : zjxjx¯jSj

zj=xjx¯jSj

Przeprowadzając regresję za pomocą standardowych regresorów, otrzymujemy dopasowaną linię regresji:

Y^=β^0+j=1kβ^jzj

Chcemy teraz znaleźć współczynniki regresji dla niestandardowych predyktorów. Mamy

Y^=β^0+j=1kβ^j(xjx¯jSj)

Ponownie aranżując, wyrażenie to można zapisać jako

Y^=(β^0j=1kβ^jx¯jSj)+j=1k(β^jSj)xj

Jak widzimy, przechwytywanie dla regresji za pomocą zmiennych nietransformowanych jest podane przez . Współczynnik regresji predyktora wynosi .β^0j=1kβ^jx¯jSjjβ^jSj

W przedstawionym przypadku założyłem, że tylko predyktory zostały wystandaryzowane. Jeśli ktoś znormalizuje również zmienną odpowiedzi, przekształcenie współczynników współzmiennych z powrotem do oryginalnej skali odbywa się za pomocą wzoru z podanego odniesienia. Mamy:

E[Y]y^Sy=β0+j=1kβjzj

Przeprowadzając regresję, otrzymujemy dopasowane równanie regresji

Y^scaled=Y^unscaledy¯Sy=β^0+j=1kβ^j(xjx¯jSj),

gdzie dopasowane wartości są w skali znormalizowanej odpowiedzi. Aby je odskalować i odzyskać szacunki współczynników dla modelu nietransformowanego, mnożymy równanie przez i przenosimy średnią próbki na drugą stronę:Syy

Y^unscaled=β^0Sy+y¯+j=1kβ^j(SySj)(xjx¯j).

Punkt przecięcia odpowiadający modelowi, w którym ani odpowiedź, ani predyktory nie zostały znormalizowane, jest w konsekwencji podawany przez , natomiast współczynniki kowariancji dla modelu będącego przedmiotem zainteresowania można uzyskać, mnożąc każdy współczynnik przez .β^0Sy+y¯j=1kβ^jSySjx¯jSy/Sj

Philipp Burckhardt
źródło