Z istnienia UMVUE i wybór estymatora w populacji

10

Niech jest losowa próbka pobierana z populacji, w której \ theta \ w \ mathbb R .N ( θ , θ 2 ) θ R(X1,X2,,Xn)N(θ,θ2)θR

Szukam UMVUE z θ .

Łączna gęstość (X1,X2,,Xn) wynosi

faθ(x1,x2),,xn)=ja=1n1θ2)πexp[-12)θ2)(xja-θ)2)]=1(θ2)π)nexp[-12)θ2)ja=1n(xja-θ)2)]=1(θ2)π)nexp[1θja=1nxja-12)θ2)ja=1nxja2)-n2)]=sol(θ,T.(x))h(x)(x1,,xn)Rn,θR

, gdzie sol(θ,T.(x))=1(θ2)π)nexp[1θja=1nxja-12)θ2)ja=1nxja2)-n2)] i h(x)=1 .

Tutaj zależy od i do i jest niezależny od . Zatem według twierdzenia faktoryzacji Fishera-Neymana dwuwymiarowa statystyka wystarcza do .θ x 1 , , x n T ( x ) = ( n i = 1 x i , n i = 1 x 2 i ) h θ T ( X ) = ( n i = 1 X i , n i = 1 X 2 i ) θsolθx1,,xnT.(x)=(ja=1nxja,ja=1nxja2))hθT.(X)=(ja=1nXja,ja=1nXja2))θ

Jednak nie jest kompletną statystyką. Jest tak, ponieważE θ [ 2 ( n i = 1 X i ) 2 - ( n + 1 ) n i = 1 X 2 i ] = 2 n ( 1 + n ) θ 2 - ( n + 1 ) 2 n θ 2 = 0T.

miθ[2)(ja=1nXja)2)-(n+1)ja=1nXja2)]=2)n(1+n)θ2)-(n+1)2)nθ2)=0θ

i funkcja nie jest identycznie zerowy.sol(T.(X))=2)(ja=1nXja)2)-(n+1)ja=1nXja2)

Ale wiem, że jest minimalną wystarczającą statystyką.T.

Nie jestem pewien, ale sądzę, że pełna statystyka dla tej zakrzywionej rodziny wykładniczej może nie istnieć. Jak więc mam zdobyć UMVUE? Jeśli pełna statystyka nie istnieje, czy obiektywnym estymatorem ( w tym przypadku ), który jest funkcją minimalnej wystarczającej statystyki, może być UMVUE? (Wątek pokrewny: Jaki jest niezbędny warunek dla bezstronnego estymatora, aby był UMVUE? )X¯

Co się stanie, jeśli wezmę pod uwagę najlepszy liniowy estymator obiektywny (NIEBIESKI) z ? Czy NIEBIESKI może być UMVUE?θ

Załóżmy, że rozważam liniowy estymator obiektywny z gdzie i . Ponieważ wiemy, że . Moim pomysłem jest zminimalizowanie , aby był NIEBIESKI z . Czy byłoby wtedy UMVUE ?θT.(X)=zaX¯+(1-za)doS.θdo(n)=n-12)Γ(n-12))Γ(n2))Eθ(cS)=θVar(T)TθTθS.2)=1n-1ja=1n(Xja-X¯)2)miθ(doS.)=θVar(T.)T.θT.θ

Wziąłem liniowy obiektywny estymator oparty na i ponieważ jest również wystarczające dla . S( ˉ X ,S2)θX¯S.(X¯,S.2))θ

Edytować:

Rzeczywiście dużo pracy włożono w oszacowanie w bardziej ogólnej rodzinie której znane jest . Oto niektóre z najbardziej odpowiednich odniesień:θN.(θ,zaθ2))za>0

Pierwsze z tych odniesień znalazłem w tym ćwiczeniu na podstawie wnioskowania statystycznego Caselli / Berger:

wprowadź opis zdjęcia tutaj

wprowadź opis zdjęcia tutaj

Moje pytanie nie dotyczy jednak tego ćwiczenia.

Ostatnia uwaga (wyciąg z rozdziału) mówi, że UMVUE z nie istnieje,θ ponieważ minimalna wystarczająca statystyka nie jest kompletna. Chciałbym wiedzieć, co pozwala nam stwierdzić, że UMVUE nie istnieje po prostu dlatego, że nie można znaleźć kompletnej wystarczającej statystyki? Czy jest jakiś związany z tym wynik? Widzę istnienie UMVUE, nawet jeśli w połączonym wątku nie ma wystarczających statystyk.

Zakładając teraz, że nie istnieje obiektywnie estymator o jednolitej minimalnej wariancji, jakie powinny być nasze następne kryteria wyboru „najlepszego” estymatora? Czy szukamy minimalnego MSE, minimalnej wariancji czy MLE? A może wybór kryteriów zależy od naszego celu oszacowania?

Załóżmy na przykład, że mam bezstronny estymator i inny tendencyjny estymator z . Załóżmy, że MSE dla (co jest jego wariancją) jest większe niż dla . Ponieważ minimalizacja MSE oznacza jednocześnie minimalizację błędu systematycznego i wariancji, uważam, że powinien być „lepszym” wyborem estymatora niż chociaż ten pierwszy jest stronniczy.T.1T.2)θT.1T.2)T.2)T.1

Prawdopodobne wybory estymatorów są wymienione na stronie 4 ostatniej nuty.θ

Poniższy fragment pochodzi z Theory of Point Estimation autorstwa Lehmann / Casella (drugie wydanie, strony 87-88):

wprowadź opis zdjęcia tutaj

wprowadź opis zdjęcia tutaj

Jest wysoce prawdopodobne, że źle wszystko zrozumiałem, ale czy ostatnie zdanie mówi, że w pewnych warunkach istnienie pełnej statystyki jest konieczne do istnienia UMVUE? Jeśli tak, to czy powinienem na to spojrzeć?

Ten ostatni wynik z powodu RR Bahadur, który jest wymieniony na końcu, odnosi się do tej uwagi.

Po dalszych poszukiwaniach znalazłem wynik stwierdzający, że jeśli minimalna wystarczająca statystyka nie jest kompletna, to kompletna statystyka nie istnieje. Przynajmniej jestem przekonany, że nie ma tu pełnej statystyki.

Innym wynikiem, o którym zapomniałem wziąć pod uwagę, jest ten, który z grubsza mówi, że koniecznym i wystarczającym warunkiem dla bezstronnego estymatora, jakim jest UMVUE, jest to, że musi on być nieskorelowany z każdym bezstronnym estymatorem zerowym. Próbowałem użyć tego twierdzenia, aby pokazać, że UMVUE nie istnieje tutaj, a także fakt, że bezstronny estymator, taki jak nie jest UMVUE. Ale to nie działa tak prosto jak to zrobiono, na przykład tutaj , na końcowej ilustracji.X¯

UpartyAtom
źródło

Odpowiedzi:

3

Aktualizacja:

Rozważ estymator gdzie jest podane w twoim poście. Jest to obiektywny estymator i będzie wyraźnie skorelowany z estymatorem podanym poniżej (dla dowolnej wartości ).c0a

0^=X¯-doS.
do0za

Twierdzenie 6.2.25 z C&B pokazuje, jak znaleźć kompletne wystarczające statystyki dla rodziny wykładniczej, o ile zawiera otwarty zestaw w . Niestety ten rozkład daje i co NIE tworzy otwartego zestawu w (ponieważ ) Z tego powodu statystyki nie są kompletne dla i z tego samego powodu możemy skonstruować obiektywny estymator które będą skorelowane z dowolnym obiektywnym estymatorem

{(w1(θ),wk(θ)}
Rkw1(θ)=θ-2)w2)(θ)=θ-1R2)w1(θ)=w2)(θ)2)(X¯,S.2))θ0θ która jest oparta na wystarczających statystykach.

Kolejna aktualizacja:

Stąd argument jest konstruktywny. Musi być tak, że istnieje inny obiektywny estymator taki że dla co najmniej jednego .θ~V.zar(θ~)<V.zar(θ^)θΘ

Dowód: Załóżmy, że , i (dla pewnej wartości ). Zastanów się nad nowym estymatorem Ten estymator jest wyraźnie bezstronny z wariancją Niech .mi(θ^)=θmi(0^)=0doov(θ^,0^)<0θ

θ~=θ^+b0^
V.zar(θ~)=V.zar(θ^)+b2)V.zar(0^)+2)bdoov(θ^,0^)
M.(θ)=-2)doov(θ^,0^)V.zar(0^)

Z założenia musi istnieć taki, że . Jeśli wybierzemy , to w . Dlatego nie może być UMVUE. θ0M.(θ0)>0b(0,M.(θ0))V.zar(θ~)<V.zar(θ^) θ0θ^

Podsumowując: Fakt, że jest skorelowany z (dla dowolnego wyboru ) oznacza, że ​​możemy zbudować nowy estymator, który jest lepszy niż dla co najmniej jednego punktu , co narusza jednorodność Roszczenie za najlepszą bezstronność.θ^0^zaθ^ θ0θ^


Przyjrzyjmy się bliżej twojemu pomysłowi kombinacji liniowych.

θ^=zaX¯+(1-za)doS.

Jak zauważyłeś, jest rozsądnym estymatorem, ponieważ opiera się na wystarczających (choć niepełnych) statystykach. Oczywiście estymator ten jest bezstronny, więc aby obliczyć MSE, potrzebujemy tylko obliczyć wariancję.θ^

M.S.mi(θ^)=za2)V.zar(X¯)+(1-za)2)do2)V.zar(S.)=za2)θ2)n+(1-za)2)do2)[mi(S.2))-mi(S.)2)]=za2)θ2)n+(1-za)2)do2)[θ2)-θ2)/do2)]=θ2)[za2)n+(1-za)2)(do2)-1)]

Różniczkując, możemy znaleźć „optymalne ” dla danej wielkości próbki .zan

zaopt(n)=do2)-11/n+do2)-1
gdzie
do2)=n-12)(Γ((n-1)/2))Γ(n/2)))2)

Wykres tego optymalnego wyboru podano poniżej. zawprowadź opis zdjęcia tutaj

Interesująco jest zauważyć, że jako mamy (potwierdzone przez Wolframalpha).a o p t1nzaopt13)

Chociaż nie ma gwarancji, że jest to UMVUE, estymator ten jest estymatorem minimalnej wariancji wszystkich obiektywnych kombinacji liniowych wystarczających statystyk.

knrumsey
źródło
Dziękuję za aktualizację. Nie podążałem za C&B jako podręcznikiem, tylko patrzyłem na ćwiczenia.
StubbornAtom
1
@StubbornAtom Dodałem dowód pokazujący, dlaczego nie może być UMVUE (mocno pożyczony z C&B strona 344). Spójrz i daj mi znać, czy to w ogóle pomoże. θ^
knrumsey