Czy oszacowania punktu przecięcia i nachylenia w prostej regresji liniowej są niezależne?

9

Rozważ model liniowy

yja=α+βxja+ϵja

oraz oszacowania nachylenia i przecięcia i przy użyciu zwykłych najmniejszych kwadratów. To odniesienie do statystyki matematycznej sprawia, że ​​stwierdzenie, że i są niezależne (na dowód ich twierdzenia).α^β^α^β^

Nie jestem pewien, czy rozumiem dlaczego. Od

α^=y¯-β^x¯

Czy to nie znaczy, że i są ze sobą powiązane? Prawdopodobnie brakuje mi czegoś naprawdę oczywistego.α^β^

WetlabStudent
źródło

Odpowiedzi:

12

Przejdź do tej samej witryny na następującej podstronie:

https://onlinecourses.science.psu.edu/stat414/node/278

Wyraźniej zobaczysz, że określają one prosty model regresji liniowej z regresorem wyśrodkowanym na średniej próbki . I to wyjaśnia, dlaczego tak mówiąα^ i β^ są niezależne.

W przypadku, gdy współczynniki są szacowane za pomocą regresora, który nie jest wyśrodkowany, ich kowariancja wynosi

Cov(α^,β^)=-σ2)(x¯/S.xx),S.xx=(xja2)-x¯2))

Widzicie więc, że jeśli użyjemy regresora skoncentrowanego na x¯, nazwać x~, powyższe wyrażenie kowariancji wykorzysta średnią próbkową wyśrodkowanego regresora, x¯~, który będzie wynosił zero, a więc również będzie wynosił zero, a estymatory współczynników będą niezależne.

Ten post zawiera więcej informacji na temat prostej algebry OLS regresji liniowej.

Alecos Papadopoulos
źródło
Rozważałbym użycie doov(α^,β^|X) zamiast doov(α^,β^). W przeciwnym razie czuje tox¯ i S.xxnależy zastąpić odpowiednikami populacji. A może się mylę?
Richard Hardy,