Czy zmienne losowe

15

Czy możemy powiedzieć coś o zależności zmiennej losowej i funkcji zmiennej losowej? Na przykład, czy X2 zależy od X ?

Rohit Banga
źródło
5
Jeśli X i f(X) są niezależne, to f(X) jest prawie na pewno stałe. Oznacza to, że istnieje takie, że P ( F ( x ) = ) = 1 . aP(f(X)=a)=1
kardynał
2
@cardinal-dlaczego nie udzielić takiej odpowiedzi ?
Karl
@cardinal, chciałem poprosić Johna o rozwinięcie jego komentarza. Uznałem za pewnik, że rozważana funkcja była daną, deterministyczną funkcją. W rezultacie napisałem argument za podanym przez ciebie wynikiem. Wszelkie uwagi są mile widziane i doceniane.
NRH
Tak, X2 zależy od X , ponieważ jeśli znasz X to znasz X2 . X i Y są niezależne, jeśli tylko wiedza o wartość X nie wpływa na znajomość rozkładu Y .
Henry
2
@iamrohitbanga: Jeśli to X 2 = 1 prawie na pewno. Zatem X jest niezależny od X 2 w tym bardzo szczególnym przypadku. X{1,1}X2=1XX2
kardynał

Odpowiedzi:

18

Oto dowód komentarza @ kardynała z niewielkim zdziwieniem. Jeśli i f ( X ) są niezależne, to P ( X A f - 1 ( B ) ) = P ( X A , f ( X ) B )Xf(X) BiorącA=f-1(B)daje równanie P(f(X)B)=P(f(X)B)2, który ma dwa rozwiązania 0 i 1. ZatemP(f(X)

P(XAf1(B))=P(XA,f(X)B)=P(XA)P(f(X)B)=P(XA)P(Xf1(B))
A=f1(B)
P(f(X)B)=P(f(X)B)2,
dla wszystkich B . Zasadniczo nie można powiedzieć więcej. Jeśli X i f ( X ) są niezależne, to f ( X ) jest zmienną taką, że dla dowolnego B jest albo w B, albo w B c z prawdopodobieństwem 1. Aby powiedzieć więcej, potrzeba więcej założeń, np. Że zestawy singletonów { b } są mierzalne.P(f(X)B){0,1}BXf(X)f(X)BBBc{b}

Jednak szczegóły na poziomie teoretycznym miary nie wydają się być głównym przedmiotem zainteresowania PO. Jeśli jest rzeczywisty, a f jest funkcją rzeczywistą (i używamy Borel σ -algebra, powiedzmy), to biorąc B = ( - , b ] wynika, że ​​funkcja rozkładu dla rozkładu f ( X ) przyjmuje tylko wartości 0 i 1, stąd jest b, przy którym przeskakuje od 0 do 1, a P ( f ( X ) = b ) = 1XfσB=(,b]f(X)b01P(f(X)=b)=1.

Na koniec dnia odpowiedź na pytanie PO jest taka, że i f ( X ) są ogólnie zależne i niezależne tylko w bardzo szczególnych okolicznościach. Co więcej, miara Diraca δ f ( x ) zawsze kwalifikuje się do rozkładu warunkowego f ( X ), biorąc pod uwagę X = x , co jest formalnym sposobem stwierdzenia, że ​​znając X = x, wtedy wiesz dokładnie, co f ( X )Xf(X)δf(x)f(X)X=xX=xf(X)jest. Ta specjalna forma zależności ze zdegenerowanym rozkładem warunkowym jest charakterystyczna dla funkcji zmiennych losowych.

NRH
źródło
(+1) Przepraszamy. Gdy tworzyłem odpowiedź, nie otrzymałem aktualizacji, którą przesłałeś. :)
kardynał
21

Lemat : Niech będzie zmienną losową i niech f będzie funkcją (mierzalną Borela) tak, że X i f ( X ) są niezależne. Zatem f ( X ) jest stałe prawie na pewno. Oznacza to, że pewne R takie, że P ( F ( x ) = ) = 1 .XfXf(X)f(X)aRP(f(X)=a)=1

Dowód jest poniżej; ale po pierwsze kilka uwag. Mierzalność Borela jest tylko warunkiem technicznym, aby zapewnić, że możemy przypisać prawdopodobieństwa w rozsądny i spójny sposób. „Prawie na pewno” to także tylko kwestia techniczna.

Istotą lematu jest to, że jeśli chcemy, aby i f ( X ) były niezależne, wówczas naszymi jedynymi kandydatami są funkcje postaci f ( x ) = a .Xf(X)f(x)=a

Porównaj to z przypadkiem funkcji , w których X i f ( X )nieskorelowane . To jest znacznie, znacznie słabszy stan. Rzeczywiście, rozważ dowolną zmienną losową X ze średnią zero, skończonym absolutnym trzecim momentem i która jest symetryczna względem zera. Weź f ( x ) = x 2 , jak w przykładzie w pytaniu. Następnie C o v ( X , f ( X ) ) = E X f (fXf(X)Xf(x)=x2 , więc X i f ( X ) = X 2 są nieskorelowane.Cov(X,f(X))=EXf(X)=EX3=0Xf(X)=X2

Poniżej podaję najprostszy dowód, jaki mogłem wymyślić dla lematu. Zrobiłem to niezwykle gadatliwie , aby wszystkie szczegóły były tak oczywiste, jak to możliwe. Jeśli ktoś widzi sposoby na jego ulepszenie lub uproszczenie, chętnie to wiem.

Idea dowodu : Intuicyjnie, jeśli znamy , to znamy f ( X ) . Musimy więc znaleźć jakieś zdarzenie w σ ( X ) , algebrze sigma generowanej przez X , która wiąże naszą wiedzę o X z wiedzą o f ( X ) . Następnie wykorzystujemy tę informację w połączeniu z założoną niezależnością X i f ( X ), aby pokazać, że nasze dostępne opcje dla f zostały poważnie ograniczone.Xf(X)σ(X)XXf(X)Xf(X)f

Dowód lematu : Przypomnij sobie, że i Y są niezależne wtedy i tylko wtedy, gdy dla wszystkich A σ ( X ) i B σ ( Y ) , P ( X A , Y B ) = P ( X A ) P ( Y B ) . Niech Y = f ( X ) dla pewnej mierzalnej funkcji borela fXYAσ(X)Bσ(Y)P(XA,YB)=P(XA)P(YB)Y=f(X)ftakie, że i Y są niezależne. Zdefiniuj A ( y ) = { ω : f ( X ( ω ) ) y } . Następnie A ( y ) = { ω : X ( ω ) f - 1 ( ( - , y ] ) } i od ( - , y ]XYA(y)={ω:f(X(ω))y}

A(y)={ω:X(ω)f1((,y])}
(,y]ff1((,y])A(y)σ(X)σ(X)

XYA(y)σ(X)

P(XA(y),Yy)=P(XA(y))P(Yy)=P(f(X)y)P(f(X)y),
and this holds for all yR. But, by definition of A(y)
P(XA(y),Yy)=P(f(X)y,Yy)=P(f(X)y).
Combining these last two, we get that for every yR,
P(f(X)y)=P(f(X)y)P(f(X)y),
so P(f(X)y)=0 or P(f(X)y)=1. This means there must be some constant aR such that the distribution function of f(X) jumps from zero to one at a. In other words, f(X)=a almost surely.

NB: Note that the converse is also true by an even simpler argument. That is, if f(X)=a almost surely, then X and f(X) are independent.

cardinal
źródło
+1, I should be sorry - to steal your argument is not very polite. It's great that you spelled out the difference between independence and being uncorrelated in this context.
NRH
No "stealing" involved, nor impoliteness. :) Though many of the ideas and comments are similar (as you'd expect for a question like this!), I think the two posts are nicely complementary. In particular, I like how at the beginning of your post you didn't constrain yourself to real-valued random variables.
cardinal
@NRH accepting your answer as the initial part of your proof seems easier to grasp for a novice like me. Nevertheless +1 cardinal for your answer.
Rohit Banga