Istnienie funkcji i wariancji generującej moment

28

Czy rozkład o średniej skończonej i nieskończonej wariancji może mieć funkcję generowania momentu? Co z rozkładem o skończonej średniej i skończonej wariancji, ale o nieskończonych wyższych momentach?

Mgf
źródło
4
Wskazówka : Jeśli mgf istnieje w przedziale wokół zera, powiedzmy (t0,t0) dla niektórych t0>0 , to rozważ rozszerzenie Taylora ex i monotoniczność całki, aby odkryć rozwiązanie. :)
kardynał
2
Ignorując kwestie konwergencji (myśląc o mgf jako o formalnej serii potęg), czym mógłby być mgf, gdyby jakiś moment nie istniał?
whuber
Kardynał, czy możesz podać nam referencje na temat przedstawionych przez ciebie propozycji?

Odpowiedzi:

51

To pytanie stanowi dobrą okazję do zebrania pewnych faktów na temat funkcji generujących moment ( mgf ).

W odpowiedzi poniżej wykonujemy następujące czynności:

  1. Pokaż, że jeśli mgf jest skończone dla co najmniej jednej (ściśle) wartości dodatniej i jednej wartości ujemnej, wówczas wszystkie dodatnie momenty X są skończone (w tym momenty nieintegralne).
  2. Wykazać, że warunek w pierwszej pozycji powyżej jest równoważny rozkładowi mającego wykładniczo ograniczone ogony. Innymi słowy, ogony X spadają co najmniej tak szybko jak wykładnicze losowe zmienne Z (do stałej).XXZ
  3. Należy szybko zanotować charakterystykę rozkładu według jego mgf, pod warunkiem że spełnia on warunek określony w punkcie 1.
  4. Przejrzyj kilka przykładów i kontrprzykładów, aby wspomóc naszą intuicję, a zwłaszcza, aby pokazać, że nie powinniśmy odczytywać nadmiernego znaczenia braku skończoności mgf.

Ta odpowiedź jest dość długa, za co z góry przepraszam. Jeśli byłoby to lepiej umieszczone, np. Jako post na blogu lub w innym miejscu, prosimy o przesłanie takiej opinii w komentarzach.

Co mgf mówi o chwilach?

MGF losowej zmiennej określa się jako m ( t ) = E e t X . Zauważ, że m ( t ) zawsze istnieje, ponieważ jest całką nieujemnej funkcji mierzalnej. Jednak jeśli nie może być skończony . Jeśli jest skończony (w odpowiednich miejscach), to dla wszystkich p > 0 (niekoniecznie liczb całkowitych) momenty bezwzględne E | X | p < (a więc także E X pXFm(t)=EetXm(t) p>0E|X|p<EXpjest skończony). To jest temat następnej propozycji.

Propozycja : jeśli istnieje i t p > 0 , tak że m ( t n ) < i m ( t p ) < , wówczas momenty wszystkich rzędów X istnieją i są ograniczone.tn<0tp>0m(tn)<m(tp)<X

Przed zanurzeniem się w dowodzie, oto dwa przydatne lematy.

Lemat 1 : Załóżmy, że takie i t p istnieją. Następnie dla dowolnego t 0[ t n , t p ] , m ( t 0 ) < . Dowód . Wynika to z wypukłości e x i monotoniczności całki. Dla dowolnego takiego t 0 istnieje θ [ 0 , 1 ] takie, że t 0 = θ t n +tntpt0[tn,tp]m(t0)<
ext0θ[0,1] . Ale wtedy e t 0 X = et0=θtn+(1θ)tp Stąd przez monotoniczność całki E e t 0 Xθ E e t n X + ( 1 - θ ) E e t p X < .

et0X=eθtnX+(1θ)tpXθetnX+(1θ)etpX.
Eet0XθEetnX+(1θ)EetpX<

Tak więc, jeśli mgf jest skończony w dowolnych dwóch odrębnych punktach, jest skończony dla wszystkich wartości w przedziale między tymi punktami.

Lemma 2 (Nesting of Lp spaces): For 0qp, if E|X|p<, then E|X|q<.
Proof: Two approaches are given in this answer and associated comments.

This gives us enough to continue with the proof of the proposition.

Dowód propozycji . Jeśli i t p > 0 istnieć jako podano w propozycji, a następnie przy T 0 = min ( - t n , t p ) > 0 , wiemy przez pierwszy lematu m ( - t 0 ) < i m ( t 0 ) < . Ale e - t 0 X + e ttn<0tp>0t0=min(tn,tp)>0m(t0)<m(t0)< a prawa strona składa się z nieujemnych terminów, a więc w szczególności dla każdego ustalonego k e - t 0 X + e t 0 X2 t 2 k 0 X 2 k / ( 2 k ) !

et0X+et0X=2n=0t02nX2n(2n)!,
k Teraz z założenia E e - t 0 X + E e t 0 X < . Monotoniczność całki daje E X 2 k < . Dlatego wszystkieparzystemomenty X są skończone. Lemat 2 natychmiast pozwala nam „wypełnić luki” i stwierdzić, żewszystkiechwile muszą być skończone.
et0X+et0X2t02kX2k/(2k)!.
Eet0X+Eet0X<EX2k<X

Wynik

Rezultatem tego pytania jest to, że jeśli którykolwiek z momentów jest nieskończony lub nie istnieje, możemy od razu stwierdzić, że mgf nie jest skończony w otwartym przedziale zawierającym źródło. (To jest tylko contrapositive zestawienie propozycji).X

Tak więc powyższa propozycja zapewnia „właściwy” warunek, aby powiedzieć coś o momentach na podstawie jego mgf.X

Wykładniczo ograniczone ogony i mgf

Twierdzenie : mgf jest skończone w otwartym przedziale ( t n , t p ) zawierającym początek wtedy i tylko wtedy, gdy ogony Fwykładniczo ograniczone , tj. P ( | X | > x ) C e - t 0 x jakiegoś C > 0 i t 0 > 0 .m(t)(tn,tp)FP(|X|>x)Cet0xC>0t0>0

Proof. We'll deal with the right tail separately. The left tail is handled completely analogously.

() Suppose m(t0)< for some t0>0. Then, the right tail of F is exponentially bounded; in other words, there exists C>0 and b>0 such that

P(X>x)Cebx.
To see this, note that for any t>0, by Markov's inequality,
P(X>x)=P(etX>etx)etxEetX=m(t)etx.
Take C=m(t0) and b=t0 to complete this direction of the proof.

() Suppose there exists C>0 and t0>0 such that P(X>x)Cet0x. Then, for t>0,

EetX=0P(etX>y)dy1+1P(etX>y)dy1+1Cyt0/tdy,
where the first equality follows from a standard fact about the expectation of nonnegative random variables. Choose any t such that 0<t<t0; then, the integral on the right-hand side is finite.

This completes the proof.

A note on uniqueness of a distribution given its mgf

If the mgf is finite in an open interval containing zero, then the associated distribution is characterized by its moments, i.e., it is the only distribution with the moments μn=EXn. A standard proof is short once one has at hand some (relatively straightforward) facts about characteristic functions. Details can be found in most modern probability texts (e.g., Billingsley or Durrett). A couple related matters are discussed in this answer.

Examples and counterexamples

(a) Lognormal distribution: X is lognormal if X=eY for some normal random variable Y. So X0 with probability one. Because ex1 for all x0, this immediately tells us that m(t)=EetX1 for all t<0. So, the mgf is finite on the nonnegative half-line (,0]. (NB We've only used the nonnegativity of X to establish this fact, so this is true from all nonnegative random variables.)

However, m(t)= for all t>0. We'll take the standard lognormal as the canonical case. If x>0, then ex1+x+12x2+16x3. By change of variables, we have

EetX=(2π)1/2eteuu2/2du.
For t>0 and large enough u, we have teuu2/2t+tu by the bounds given above. But,
Ket+tudu=
for any K, and so the mgf is infinite for all t>0.

On the other hand, all moments of the lognormal distribution are finite. So, the existence of the mgf in an interval about zero is not necessary for the conclusion of the above proposition.

(b) Symmetrized lognormal: We can get an even more extreme case by "symmetrizing" the lognormal distribution. Consider the density f(x) for xR such that

f(x)=122π|x|e12(log|x|)2.
It is not hard to see in light of the previous example that the mgf is finite only for t=0. Yet, the even moments are exactly the same as those of the lognormal and the odd moments are all zero! So, the mgf exists nowhere (except at the origin where it always exists) and yet we can guarantee finite moments of all orders.

(c) Cauchy distribution: This distribution also has an mgf which is infinite for all t0, but no absolute moments E|X|p are finite for p1. The result for the mgf follows for t>0 since exx3/6 for x>0 and so

EetX1t3x36π(1+x2)dxt312π1xdx=.
The proof for t<0 is analogous. (Perhaps somewhat less well known is that the moments for 0<p<1 do exist for the Cauchy. See this answer.)

(d) Half-Cauchy distribution: If X is (standard) Cauchy, call Y=|X| a half-Cauchy random variable. Then, it is easy to see from the previous example that EYp= for all p1; yet, EetY is finite for t(,0].

cardinal
źródło
7
Thanks for posting this - this is surprisingly easy to understand, considering how technical it is - well done.
Macro
Do you know any results about the mgf in Hilbert space?
badatmath