Jak zdefiniować region odrzucenia, gdy nie ma UMP?

Rozważ model regresji liniowej

$\mathbf{y}=\mathbf{X\beta}+\mathbf{u}$ ,

$\mathbf{u}\sim N(\mathbf{0},\sigma^2\mathbf{I})$ ,

$E(\mathbf{u}\mid\mathbf{X})=\mathbf{0}$ .

Niech vs . $H_0: \sigma_0^2=\sigma^2$ $H_1: \sigma_0^2\neq\sigma^2$

Możemy wywnioskować, że , gdzie . A to typowy zapis dla matrycy anihilatora, , gdzie jest zmienną zależną zrestartował się w . $\frac{\mathbf{y}^T\mathbf{M_X}\mathbf{y}}{\sigma^2}\sim \chi^2(n-k)$ $dim(\mathbf{X})=n\times k$ $\mathbf{M_X}$ $\mathbf{M_X}\mathbf{y}=\hat{\mathbf{y}}$ $\hat{\mathbf{y}}$ $\mathbf{y}$ $\mathbf{X}$

Książka, którą czytam, stwierdza, co następuje:

Wcześniej zapytałem, jakie kryteria należy zastosować, aby zdefiniować region odrzucenia (RR), zobaczyć odpowiedzi na to pytanie , a głównym było wybranie RR, który uczynił test tak potężnym, jak to możliwe.

W tym przypadku, alternatywą jest dwustronna złożona hipoteza, zwykle nie ma testu UMP. Ponadto, dzięki odpowiedzi podanej w książce, autorzy nie pokazują, czy przestudiowali moc swoich RR. Niemniej jednak wybrali dwustronny RR. Dlaczego tak jest, skoro hipoteza nie „jednostronnie” determinuje RR?

Edycja: Ten obraz znajduje się w podręczniku rozwiązania tej książki jako rozwiązanie do ćwiczenia 4.14.

regression hypothesis-testing mathematical-statistics inference Stary człowiek na morzu.
źródło

Dodaj odniesienie do książki. Powiązane: Wartość p w teście dwustronnym z asymetrycznym rozkładem zerowym .

Scortchi - Przywróć Monikę

@Scortchi dzięki za link. Czy mogę zapytać cię o to pytanie? Czy uważasz to za interesujące? Próbuję ocenić, czy zadaję ciekawe pytania, czy też powinienem skierować swoje zainteresowania na inne obszary ...

Starzec na morzu.

Oczywiście nie wszyscy uważają teorię za interesującą, ale niektórzy uważają (w tym ja) i mamy prawie 2k qs oznaczonemathematical-statistics . Więc dobrze q. IMO. Jest trochę szeroki, ale myślę, że dobra odpowiedź zbadałaby różne podejścia i rozważania, a motywujący przykład bardzo pomaga. (Wybrałbym jednak możliwie najprostszy przykład - testy na wariancję rozkładu normalnego ze znaną średnią lub średnią rozkładu wykładniczego.) [BTW Często zapominam głosować na qs, kiedy je komentuję .]

Scortchi - Przywróć Monikę

@Scortchi dzięki za opinie. Czasami nie jestem pewien, czy dobrze ustrukturyzowałem pytanie, ponieważ sam się tego uczę.

Stary człowiek na morzu.

Powinieneś zdefiniować

M_{X}

$M_X$

Taylor

Odpowiedzi:

Łatwiej jest najpierw przeanalizować przypadek, w którym współczynniki regresji są znane, a zatem hipoteza zerowa jest prosta. Zatem wystarczająca statystyka wynosi , gdzie jest resztą; jego rozkład poniżej zera jest również kwadratem chi skalowanym przez i o stopniach swobody równych wielkości próbki . $T=\sum z^2$ $z$ $\sigma^2_0$ $n$

Zapisz stosunek prawdopodobieństw pod i i potwierdź, że jest to rosnąca funkcja dla dowolnego : $\sigma=\sigma_1$ $\sigma=\sigma_2$ $T$ $\sigma_2 > \sigma_1$

Funkcja logarytmu ilorazu wiarygodności wynosi , i wprost proporcjonalne doz gradientem dodatnim, gdy.
$ℓ (σ_{2)}; T., n) - ℓ (σ_{1}; T., n) = \frac{n}{2)} \cdot [\log (\frac{σ_{1}^{2)}}{σ_{2)}^{2)}}) + \frac{T.}{n} \cdot (\frac{1}{σ_{1}^{2)}} - \frac{1}{σ_{2)}^{2)}})]$ $\ell(\sigma_2;T,n)-\ell(\sigma_1;T,n)=\frac{n}{2} \cdot \left[\log \left(\frac{\sigma_1^2}{\sigma_2^2}\right) + \frac{T}{n} \cdot \left(\frac{1}{\sigma_1^2} - \frac{1}{\sigma_2^2}\right) \right]$ $T$ $\sigma_2>\sigma_1$

Zatem według twierdzenia Karlina-Rubina każdy z testów jednostronnych vs i vs jest jednakowo najsilniejszy. Oczywiście nie ma testu UMP dla vs . Jak omówiono tutaj $H_0:\sigma=\sigma_0$ $H_\mathrm{A}:\sigma < \sigma_0$ $H_0:\sigma = \sigma_0$ $H_\mathrm{A}:\sigma < \sigma_0$ $H_0:\sigma = \sigma_0$ $H_\mathrm{A}:\sigma \neq \sigma_0$ , przeprowadzenie obu testów jednostronnych i zastosowanie korekcji wielokrotnych porównań prowadzi do powszechnie stosowanego testu z jednakowymi rozmiarami regionów odrzucania w obu ogonach, i jest całkiem rozsądne, jeśli chcesz twierdzić, że lub po odrzuceniu wartości null. $\sigma>\sigma_0$ $\sigma<\sigma_0$

Następny znaleźć stosunek prawdopodobieństw pod , szacunek maksymalnym prawdopodobieństwie , & : $\sigma=\hat\sigma$ $\sigma$ $\sigma=\sigma_0$

Jako , protokół testowy wskaźnik prawdopodobieństwa parametrem jest $\hat\sigma^2=\frac{T}{n}$
$ℓ (\hat{σ}; T., n) - ℓ (σ_{0}; T., n) = \frac{n}{2)} \cdot [\log (\frac{n σ_{0}^{2)}}{T.}) + \frac{T.}{n σ_{0}^{2)}} - 1]$ $\ell(\hat\sigma;T,n)-\ell(\sigma_0;T,n)=\frac{n}{2} \cdot \left[\log \left(\frac{n\sigma_0^2}{T}\right) + \frac{T}{n\sigma_0^2} - 1 \right]$

$H_\mathrm{A}:\sigma \neq \sigma_0$ $H_0:\sigma = \sigma_0$ $T$

$\sigma$

$\frac{re ℓ (σ; T., n)}{re σ} = \frac{T.}{σ^{3)}} - \frac{n}{σ}$ $\frac{\mathrm{d}\,\ell(\sigma;T,n)}{\mathrm{d}\,\sigma}=\frac{T}{\sigma^3} - \frac{n}{\sigma}$

$\sigma_0$ $H_0:\sigma=\sigma_0$ $H_\mathrm{A}:\sigma \neq \sigma_0$

$\alpha$ $\phi(T)= 1$ $T<c_1$ $T>c_2$ $\phi(T)= 0$

\begin{aligned} mi (ϕ (T.)) & = α \\ mi (T. ϕ (T.)) & = α mi T. \end{aligned}

$\begin{align} \operatorname{E}(\phi(T)) &= \alpha \\ \operatorname{E}(T\phi(T)) &= \alpha \operatorname{E} T \end{align}$

Wykres pomaga pokazać stronniczość w teście obszarów równych ogonów i jak to powstaje:

$\sigma$ $\sigma_0$

Bycie bezstronnym jest dobre; ale nie jest oczywiste, że posiadanie mocy nieco mniejszej niż rozmiar w małym obszarze przestrzeni parametrów w ramach alternatywy jest tak złe, że całkowicie wyklucza test.

Dwa powyższe testy dwustronne pokrywają się (w tym przypadku nie ogólnie):

LRT jest UMP wśród obiektywnych testów. W przypadkach, w których nie jest to prawdą, LRT może nadal być asymptotycznie bezstronny.

Myślę, że wszystkie, nawet testy jednostronne, są dopuszczalne, tzn. Nie ma testu bardziej wydajnego ani tak potężnego we wszystkich alternatywach - można uczynić test bardziej skutecznym w stosunku do alternatyw w jednym kierunku tylko poprzez zmniejszenie jego skuteczności w stosunku do alternatyw w drugim kierunek. Wraz ze wzrostem wielkości próbki rozkład chi-kwadrat staje się coraz bardziej symetryczny, a wszystkie testy dwustronne będą w końcu takie same (kolejny powód stosowania łatwego testu z równym ogonem).

W przypadku złożonej hipotezy zerowej argumenty stają się nieco bardziej skomplikowane, ale myślę, że można uzyskać praktycznie takie same wyniki, mutatis mutandis. Zauważ, że jednym z testów jednostronnych jest UMP!

Scortchi - Przywróć Monikę
źródło

Scortchi dziękuję za odpowiedź. Nadal jednak mam wątpliwości. Po pierwsze, czy mógłbyś bardziej szczegółowo rozwinąć następujące zdanie? «Zastosowanie korekcji wielokrotnych porównań prowadzi do powszechnie stosowanego testu z jednakowymi rozmiarami regionów odrzucania w obu ogonach i jest całkiem rozsądne, jeśli chcesz twierdzić, że σ> σ0 lub σ <σ0, gdy odrzucisz wartość zerową.» A dlaczego mówisz, że to rozsądne? Myślę, że to jest sedno mojego pytania, jeśli się nie mylę. ;)

Stary człowiek na morzu.

Przeczytałem ten akapit z twojej powiązanej odpowiedzi, ale nie zrozumiałem go dobrze «Podwojenie najniższej jednostronnej wartości p można postrzegać jako korektę wielokrotnych porównań dla przeprowadzenia dwóch jednostronnych testów.» Byłbym wdzięczny, gdybyś mógł wyjaśnić to nieco bardziej. ;)

Stary człowiek na morzu.

α / 2

$\alpha/2$

α

$\alpha$

α

$\alpha$

W tym przypadku, alternatywą jest dwustronna złożona hipoteza, zwykle nie ma testu UMP.

Nie jestem pewien, czy to w ogóle prawda. Z pewnością wiele klasycznych wyników (Neymon-Pearson, Karlin-Rubin) opiera się na hipotezie prostej lub jednostronnej, ale istnieją uogólnienia na dwustronną hipotezę złożoną. Możesz znaleźć kilka uwag na ten temat tutaj i więcej dyskusji w podręczniku tutaj .

$\chi^2$

Greenparker
źródło

σ_{0}

$\sigma_0$