Dlaczego potrzebujemy ładowania początkowego?

Obecnie czytam „Wszystkie statystyki” Larry'ego Wassermana i zastanawia mnie coś, co napisał w rozdziale o szacowaniu funkcji statystycznych modeli nieparametrycznych.

On napisał

„Czasami możemy znaleźć szacowany błąd standardowy funkcji statystycznej, wykonując pewne obliczenia. Jednak w innych przypadkach nie jest oczywiste, jak oszacować błąd standardowy”.

Chciałbym zaznaczyć, że w następnym rozdziale mówi o bootstrapie, aby rozwiązać ten problem, ale ponieważ tak naprawdę nie rozumiem tego stwierdzenia, nie mam w pełni motywacji do bootstrapowania?

Jaki jest przykład, gdy nie jest oczywiste, jak oszacować błąd standardowy?

Wszystkie dotychczasowe przykłady były „oczywiste”, takie jak a następnie $X_1,...X_n ~Ber(p)$ $\hat{se}(\hat{p}_n )=\sqrt{\hat{p}\cdot(1-\hat{p})/n}$

self-study estimation bootstrap standard-error Shookie
źródło

Znajduję wiele przykładów w wyszukiwaniu w witrynie innych odpowiedzi, które proponują bootstrap . Obejmują one stats.stackexchange.com/questions/14213 , stats.stackexchange.com/questions/63979 , stats.stackexchange.com/questions/25218 i wiele innych.

whuber

Odpowiedzi:

Dwie odpowiedzi.

Jaki jest standardowy błąd stosunku dwóch średnich? Jaki jest standardowy błąd mediany? Jaki jest standardowy błąd dowolnej złożonej statystyki? Może istnieje równanie o zamkniętej formie, ale możliwe, że nikt go jeszcze nie opracował.
Aby użyć wzoru na (powiedzmy) błąd standardowy średniej, musimy poczynić pewne założenia. Jeśli te założenia zostaną naruszone, niekoniecznie będziemy mogli zastosować tę metodę. Jak zauważa @Whuber w komentarzach, ładowanie początkowe pozwala nam rozluźnić niektóre z tych założeń, a tym samym może zapewnić bardziej odpowiednie standardowe błędy (chociaż może również powodować dodatkowe założenia).

Jeremy Miles
źródło

Odpowiedź 1 jest dobra, ale odpowiedź 2 wydaje się nasuwać pytanie, ponieważ ładowanie początkowe również zakłada założenia. Przypuszczam, że chodzi o to, że zazwyczaj przyjmuje inne założenia niż inne popularne procedury, ale to tylko moje przypuszczenie, co próbujesz powiedzieć i mogę się mylić.

whuber

@ Whuber - dzięki, dodałem trochę wyjaśnień.

Jeremy Miles,

Dziękuję za zmiany. Ale czy nie jest tak, że ładowanie zwykle przyjmuje inne założenia , a nie rozluźnia niektóre? Na przykład, założenia potrzebne do oszacowania SE średniej próbki są takie, że dane są identyczne, a podstawowy rozkład ma skończoną wariancję. Bootstrap musi w tym przypadku dodać założenia: nie działa, chyba że wielkość próbki jest „wystarczająco duża”. Chociaż może się to wydawać sprzeczką o szczegóły techniczne, staram się rozwiązać duży obraz: ładowanie początkowe nie jest panaceum ani nie zawsze ma zastosowanie.

whuber

@JeremyMiles bootstrap nie jest wolny od założeń. Musisz sprawdzić, czy rozkład jest kluczowy dla większości obliczeń błędów ładowania początkowego, które często mogą być bardziej skomplikowane niż uzyskanie spójnego estymatora błędu standardowego. Ponadto stosunek średnich ma bardzo łatwe przybliżenie błędu uzyskane z metody δ. Nie sądzę więc, aby ten przykład przeczył argumentowi PO.

AdamO

Przykład może pomóc zilustrować. Załóżmy, że w ramach modelowania przyczynowego, jesteś zainteresowany w ustalaniu, czy relacja między (ekspozycja zainteresowania) W (wypadkową interesów) odbywa się za pośrednictwem zmiennej . Oznacza to, że w dwóch modelach regresji: $X$ $Y$ $W$

\begin{array}{rcl} E [Y | X] & = & β_{0} + β_{1} X \\ E [Y | X, W] & = & γ_{0} + γ_{1} X + γ_{2} W \end{array}

$\begin{eqnarray} E[Y|X] &=& \beta_0 + \beta_1 X \\ E[Y|X, W] &=& \gamma_0 + \gamma_1 X + \gamma_2 W \\ \end{eqnarray}$

Efekt jest inny niż efekt . $\beta_1$ $\gamma_1$

Jako przykład weź pod uwagę związek między paleniem a ryzykiem sercowo-naczyniowym (CV). Palenie oczywiście zwiększa ryzyko CV (w przypadku zdarzeń takich jak zawał serca i udar), powodując kruchość i zwapnienie żył. Jednak palenie również tłumi apetyt. Bylibyśmy więc ciekawi, czy w szacowanym związku między paleniem a ryzykiem CV pośredniczy BMI, który niezależnie jest czynnikiem ryzyka dla ryzyka CV. Tutaj może być zdarzeniem binarnym (zawał mięśnia sercowego lub neurologicznego) w modelu regresji logistycznej lub zmienną ciągłą, taką jak zwapnienie tętnic wieńcowych (CAC), frakcja wyrzutowa lewej komory (LVEF) lub masa lewej komory (LVM). $Y$

Dopasowalibyśmy dwa modele 1: dostosowanie do palenia i wynik wraz z innymi zaburzeniami, takimi jak wiek, płeć, dochód i historia choroby serca, a następnie 2: wszystkie poprzednie zmienne towarzyszące, a także wskaźnik masy ciała. Różnica w efektach palenia między modelami 1 i 2 polega na tym, na czym opieramy nasze wnioskowanie.

Interesuje nas testowanie hipotez

\begin{array}{rcl} H & : & β_{1} = γ_{1} \\ K & : & β_{1} \neq γ_{1} \end{array}

$\begin{eqnarray} \mathcal{H} &:& \beta_1 = \gamma_1\\ \mathcal{K} &:& \beta_1 \ne \gamma_1\\ \end{eqnarray}$

Jednym z możliwych pomiarów efektu może być: lub lub dowolna liczba pomiarów. Można używać zwykłych estymatorów dla i . Wyznaczenie standardowego błędu tych estymatorów jest bardzo skomplikowane. Bootstrapowanie ich rozkładu jest jednak powszechnie stosowaną techniką i łatwo jest na tej podstawie obliczyć wartość . $T = \beta_1 - \gamma_1$ $S = \beta_1 / \gamma_1$ $T$ $S$ $p$

AdamO
źródło

Myślę, że rozumiem, dokąd zmierzasz z tą odpowiedzią, ale jestem zaskoczony szczegółami. Czy zamierzałeś umieścić czapki nad parametrami w swoich opisach

? Wygląda na to, że tekst powinien mieć właściwości modelu, a nie estymatory. Jaki sens ma mieszanie właściwości dwóch różnych modeli takich jak ten? Jeśli naprawdę miałeś na myśli kapelusze, to

są statystykami, najwyraźniej do wykorzystania jako estymatory, ale co mają one oszacować?

T

$T$

S

$S$

T

$T$

S

$S$

whuber

T

$T$

S

$S$

γ_{2} = 0

$\gamma_2 = 0$

@ whuber Ah Widzę zamieszanie. Zobacz zalecany artykuł z MacKinnon tutaj .

AdamO

T

$T$

S

$S$

T

$T$

T

$T$

T

$T$

Posiadanie rozwiązań parametrycznych dla każdej miary statystycznej byłoby pożądane, ale jednocześnie dość nierealne. Bootstrap jest przydatny w takich przypadkach. Przykład, który przychodzi mi do głowy, dotyczy różnicy między dwoma środkami bardzo wypaczonego rozkładu kosztów. W takim przypadku klasyczny test t dla dwóch próbek nie spełnia swoich wymagań teoretycznych (rozkłady, z których pobrano badane próbki, z pewnością odbiegają od normalności ze względu na ich długi prawy ogon), a testy nieparametryczne nie są w stanie przekazać przydatne informacje dla decydentów (którzy zwykle nie są zainteresowani szeregami). Możliwym rozwiązaniem pozwalającym uniknąć utknięcia w martwym punkcie jest test t bootstrap z dwoma próbkami.

Carlo Lazzaro
źródło