Dodatnia korelacja i ujemny znak współczynnika regresji

12

Czy można uzyskać dodatnią korelację między regresorem a odpowiedzią ( +0,43), a następnie uzyskać ujemny współczynnik w dopasowanym modelu regresji dla tego regresora?

Nie mówię o zmianach w znaku regresora wśród niektórych modeli. Znak współczynnika zawsze pozostaje.

Czy pozostałe zmienne dopasowanego modelu mogą wpływać na zmianę znaku?

Javier Bermejo
źródło
3
Podobne pytanie i odpowiedzi znajdziesz tutaj: stats.stackexchange.com/questions/33888/…
JDav

Odpowiedzi:

16

Zarówno @Henry, jak i @JDav wskazują właściwy kierunek (+1 do każdego). Jestem jednak bardzo wizualny i pomaga mi to, jeśli widzę, jak to działa. W związku z tym oto krótki wykres, w którym pierwsza zmienna jest mylona z członkostwem w grupie. Jeśli grupy zostaną zignorowane, współczynnik korelacji jest dodatni (jak widać na rysunku), ale w regresji wielokrotnej , choć z różnymi przechwytywania dla trzech grup. Jako dalszą myśl do przemyślenia, gdy wszystkie zmienne są kategoryczne (zamiast ciągłego, jak w tym przypadku), zjawisko odwracania pozornej zależności po uwzględnieniu innych zmiennych jest znane jako paradoks Simpsona. Ponieważ ostatecznie jest dość podobny, może pomóc również o tym przeczytać. Omówiono to w CVβx1=1wprowadź opis zdjęcia tutaj
Tutaj .

gung - Przywróć Monikę
źródło
1
FWIW, mam tutaj pełniejsze podejście do zasadniczo tego samego problemu: czy istnieje różnica między „kontrolowaniem” a „ignorowaniem” innych zmiennych w regresji wielokrotnej?
gung - Przywróć Monikę
10

Jeśli regresor dodatnio skorelowany jest jedynym regresorem w modelu liniowym, jego współczynnik powinien być dodatni.

Jeśli istnieje kilka regresorów i nie są one niezależne, możesz zobaczyć efekt, o który pytasz. Przeczytaj o myleniu, aby uzyskać wyjaśnienie

Henz
źródło