Wielowymiarowy rozkład normalny współczynnika regresji?

Czytając podręcznik regresji napotkałem następujący akapit:

Oszacowanie najmniejszych kwadratów wektora współczynników regresji liniowej ( ) to $\beta$

$\hat{β} = (X^{t} X)^{- 1} X^{t} y$ $\hat{\beta} = (X^{t}X)^{-1}{X^t}y$
która, widziana jako funkcja danych (z uwzględnieniem predyktorów jako stałych), jest liniową kombinacją danych. Korzystając z centralnego twierdzenia granicznego, można wykazać, że rozkład będzie w przybliżeniu wielowymiarowy normalny, jeśli wielkość próbki jest duża. $y$ $X$ $\beta$

Zdecydowanie brakuje mi czegoś w tekście, ale nie rozumiem, w jaki sposób pojedyncza wartość mieć rozkład? W jaki sposób generowanych jest wiele wartości celu uzyskania rozkładu, o którym mowa w tekście? $\beta$ $\beta$

multiple-regression powyżej
źródło

jest wektorem współczynników regresji - czy to wyjaśnia zamieszanie?

β

$\beta$

Makro

Korzystając z metody najmniejszych kwadratów, zakładasz, że

jest stałe, ale nieznane.

, ponieważ jest to funkcja (losowej) danych, ma rozkład. Asymptotycznie rozkład jest rozkładem normalnym. Nie asymptotycznie indywidualny współczynnik będzie miał rozkład.

β

$\beta$

\hat{β}

$\hat{\beta}$

Taylor

Pomocne może być zaobserwowanie, że

jest uważana za stałą macierz w ustawieniu regresji i że

jest realizacją zmiennej losowej (wektorowej). Że nieco o CLT, choć nie jest całkiem poprawny: jest ona polegać albo na

mający pewną strukturę, która czasami faktycznie nie występują nawet przy ogromnych zbiorów danych, albo na

sama istota wielowymiarowa normalny (ale wtedy nie ma potrzeby wywołać CLT).

H = (X^{t} X)^{- 1} X^{t}

$H = (X^tX)^{-1}X^t$

y

$y$

H

$H$

y

$y$

whuber

@Taylor Ale skąd znasz rozkład B, jeśli jedyne, co wiem, to to, że „wielkość próbki jest duża”?

powyżej

@Taylor Poszczególny składnik czynnika beta będzie miał rozkład tylko wtedy, gdy składnikiem błędu w modelu regresji jest gaussowski ze średnią 0 i stałą wariancją. W nietypowym przypadku niekoniecznie znasz jego rozkład pod hipotezą zerową, ale nadal może być asymptotycznie normalny. Jednak, jak stwierdza Whuber, centralne twierdzenie o granicy może nie być ważne, ponieważ jest to średnia ważona i musimy wiedzieć, że wagi nie zmieniają się przy wielkości próbki w sposób, który pozwala na kilka terminów zdominować sumę.

Michael R. Chernick

Wielowymiarowy rozkład normalny współczynnika regresji?

Odpowiedzi: