Dowód tego, że funkcje generujące moment jednoznacznie określają rozkłady prawdopodobieństwa

19

Tekst Wackerly i wsp. Stwierdza, że to twierdzenie „Niech mx(t) i my(t) oznaczają odpowiednio funkcje generujące momenty zmiennych losowych X i Y. Jeśli istnieją obie funkcje generujące moment i mx(t)=my(t) dla wszystkich wartości t, wówczas X i Y mają taki sam rozkład prawdopodobieństwa. ” bez dowodu, że jest poza zakresem tekstu. Scheaffer Young ma również to samo twierdzeniebez dowodu. Nie mam kopii Caselli, ale wyszukiwanie książek w Google nie znalazło w niej twierdzenia.

Tekst Guta wydaje się mieć zarys dowodu , ale nie odnosi się do „dobrze znanych wyników”, a także wymaga znajomości innego wyniku, którego dowodu również nie przedstawiono.

Czy ktoś wie, kto to udowodnił i czy dowód jest dostępny online w dowolnym miejscu? W przeciwnym razie, jak wypełnić szczegóły tego dowodu?

W przypadku, gdy nie zostanie mi zadane, nie jest to pytanie o pracę domową, ale mogę sobie wyobrazić, że jest to czyjaś praca domowa. Wziąłem sekwencję kursów na podstawie tekstu Wackerly i od dłuższego czasu zastanawiam się nad tym dowodem. Pomyślałem więc, że czas zapytać.

Chris Simokat
źródło
3
Powiązane : (i) Inwersja mgfs oraz (ii) Istnienie funkcji i wariancji generującej moment
kardynał
3
Jeśli masz dostęp do tekstu prawdopodobieństwa i miary Billingsleya , jest to omówione w części zatytułowanej, jak sądzę, „Metoda chwil”. (Przepraszam za niejasność, ponieważ obecnie nie mam tego pod ręką.) Jeśli dobrze pamiętam, dowód, którego używa, opiera się na odpowiednich wynikach dla charakterystycznych funkcji, co może nie być w pełni satysfakcjonujące. Z pewnością jest to (dobrze) poza oczekiwanym tłem tekstu Wackerly'ego.
kardynał
1
Wow @cardinal, twoje odpowiedzi na te pytania były lepsze i bardzo pomocne, dziękuję i dziękuję za zalecenie tekstowe, które powinienem dostać kopię.
Chris Simokat,
2
@cardinal Uzyskałem dostęp do Billigsley, zanim zobaczyłem twoją notatkę i dodałem opis dowodu do mojej poprzedniej odpowiedzi.
Michael R. Chernick
2
Jeśli chodzi o historię („kto pierwotnie to udowodnił?”), Wydaje się, że Laplace użył charakterystycznej funkcji do tego rodzaju pracy w 1785 r. I opracował ogólną formułę inwersji (która jest kluczem do dowodu) do 1810 r. Zobacz Anders Hald , Historia statystyki matematycznej od 1750 do 1930 r. , Rozdział 17.
whuber

Odpowiedzi:

25

Ogólny dowód na to można znaleźć w Feller (Wprowadzenie do teorii prawdopodobieństwa i jej zastosowania, t. 2) . Jest to problem inwersji związany z teorią transformacji Laplace'a. Czy zauważyłeś, że mgf jest uderzająco podobne do transformaty Laplace'a ?. Aby użyć transformacji Laplace'a, możesz zobaczyć Widder (Calcus Vol I) .

Dowód specjalnego przypadku:

Załóżmy, że X i Y są losowymi zmiennymi, które przyjmują tylko możliwe wartości w { }. Ponadto załóżmy, że X i Y mają takie same mgf dla wszystkich t: n x = 0 e t x f X ( x ) = n y = 0 e t y f Y ( y ) Dla uproszczenia, s = e t zdefiniujemy c i = f0,1,2,,n

x=0nmitxfaX(x)=y=0nmityfaY(y)
s=mit dla i = 0 , 1 , , n .doja=faX(ja)-faY(ja)ja=0,1,,n

Teraz n x = 0 s x f X ( x ) - n y = 0 s y f Y ( y ) = 0 n

x=0nmitxfaX(x)-y=0nmityfaY(y)=0
x=0nsxfX(x)y=0nsyfY(y)=0
x=0nsxfX(x)x=0nsxfY(x)=0
x=0nsx[fX(x)fY(x)]=0
Powyższe jest po prostu wielomianem ws ze współczynnikami c 0 , c 1 , , c n . Jedynym sposobem, w jaki może być zerowy dla wszystkich wartości s, jest, jeśli c 0 = c 1 = = c n = 0 , więc mamy to, że 0 = c i = f X ( i ) - f Y ( i ) dla i = 0 , 1 ,
x=0nsxcx=0 s>0
c0,c1,,cnc0=c1==cn=00=ci=fX(i)fY(i) .i=0,1,,n

fX(i)=fY(i)i=0,1,,n

XYXY

Argha
źródło
1
Głównie funkcja generowania momentu jednoznacznie określa rozkład.
Argha,
8

Omawiane twierdzenie jest podstawowym wynikiem teorii prawdopodobieństwa / miary. Dowody bardziej prawdopodobne byłyby w książkach na temat prawdopodobieństwa lub teorii statystycznej. Znalazłem analogiczny wynik dla funkcji charakterystycznych podanych w Hoel Port i Stone pp 205-208

Tucker pp 51–53

i Chung s. 151-155 To jest wydanie trzecie. Mam drugie wydanie i odnoszę się do numerów stron w drugim wydaniu opublikowanym w 1974 roku.

Dowód na mgf był trudniejszy do znalezienia, ale można go znaleźć w książce Billingleya „Prawdopodobieństwo i miara” s. 342–345. Na stronie 342 Twierdzenie 30.1 zawiera twierdzenie, które rozwiązuje problem momentu. Na stronie 345 Billingsley stwierdza wynik, że jeśli miara prawdopodobieństwa ma funkcję generującą moment M (s) zdefiniowaną w przedziale otaczającym 0, wówczas hipoteza dla Twierdzenia 30.1 jest spełniona, a zatem miara jest określana przez jej momenty. Ale te momenty s są określone przez M (s). Stąd miarą jest funkcja generowania momentu, jeśli M (s) istnieje w sąsiedztwie 0. Więc ta logika wraz z dowodem, który podaje dla Twierdzenia 30.1, potwierdza wynik. Billingsley komentuje również, że rozwiązanie do ćwiczenia 26.

Michael R. Chernick
źródło
6
Gdzie to jest w Chung? Czy chodziło ci o strony 161-165 przez przypadek? Mimo to dotyczy to funkcji charakterystycznych , a nie funkcji generujących moment , zgodnie z wnioskiem PO.
kardynał
1
@ kardynał Tak wiem. Wspomniałem o wyniku dla funkcji charakterystycznych, ponieważ to właśnie znalazłem do tej pory. Jak powiedziałem, numery stron w Chung są oparte na drugim wydaniu, które mam. Nie wiem, gdzie pojawia się w trzeciej edycji. Myślę, że powinny istnieć pewne źródła, które będą miały wynik dla mgfs.
Michael R. Chernick,
1
Głosowałem, ponieważ doceniam również twoją odpowiedź, więc dziękuję za poświęcenie czasu.
Chris Simokat
2

Oznacz funkcję generującą momentX przez M.X(t)=mimitX.

Twierdzenie o wyjątkowości. Jeśli istniejeδ>0 takie, że M.X(t)=M.Y(t)< dla wszystkich t(-δ,δ), następnie faX(t)=faY(t) dla wszystkich tR.

Aby udowodnić, że funkcja generowania momentu determinuje rozkład, istnieją co najmniej dwa podejścia:

  • Aby pokazać tę skończoność M.X na (-δ,δ) implikuje, że chwile X nie zwiększaj zbyt szybko, aby to faX jest określony przez (miXk)kN., które z kolei są określone przez M.X. This proof can be found in Section 30 of Billingsley, P. Probability and Measure.

  • To show that MX is analytic and can be extended to (δ,δ)×iRC, so that MX(z)=EezX, so in particular MX(it)=φX(t) for all tR, and then use the fact that φX determines FX. For this approach, see Curtiss, J. H. Ann. Math. Statistics 13:430-433 and references therein.

At undergraduate level, almost every textbook works with the moment generating function and states the above theorem without proving it. It makes sense, because the proof requires far more advanced mathematics than undergraduate level allows.

At the point when students have all the tools needed in the proof, they also have the maturity to work with the characteristic function φX(t)=EeitX instead. Almost every graduate textbook takes this path, they prove that the characteristic function determines the distribution and basically ignore moment generating functions altogether.

user334639
źródło
Today, mgfs shouldnt be ignored as thry are much more useful numerically than the characteristic function
kjetil b halvorsen
1
W rzeczy samej! A jednak nigdy nie widziałem podręcznika, który podkreśla metody numeryczne, ale ma wystarczająco głęboką matematykę, aby dać dowód twierdzenia o wyjątkowości.
user334639,