Słyszałem, że stosunki lub odwrotności zmiennych losowych często są problematyczne, ponieważ nie mają oczekiwań. Dlaczego?

Tytuł jest pytaniem. Powiedziano mi, że stosunki i inwersje zmiennych losowych często stanowią problem. Oznacza to, że oczekiwania często nie istnieją. Czy istnieje proste, ogólne wyjaśnienie tego?

Chciałbym przedstawić bardzo proste, intuicyjne wyjaśnienie. Sprowadza się do spojrzenia na zdjęcie: reszta tego postu wyjaśnia zdjęcie i wyciąga z niego wnioski.

Oto, co się sprowadza: gdy „masa prawdopodobieństwa” skoncentrowana jest w pobliżu $X=0$ , prawdopodobieństwo będzie zbyt duże w pobliżu $1/X\approx \pm \infty$ , co spowoduje, że jego oczekiwanie będzie niezdefiniowane.

---

Zamiast być w pełni ogólnym, skupmy się na zmiennych losowych $X$ które mają ciągłe gęstości $f_X$ w sąsiedztwie $0$ . Załóżmy, że $f_X(0)\ne 0$ . Wizualnie te warunki oznaczają, że wykres $f$ leży powyżej osi wokół $0$ :

Ciągłość wokół 0 oznacza, że ​​dla dowolnej dodatniej wysokości p mniejszej niż f X ( 0 ) i wystarczająco małej ϵ , możemy wykroić prostokąt pod tym wykresem, który jest wyśrodkowany wokół x = 0 , ma szerokość 2 ϵ i wysokość p , jak pokazano. Odpowiada to wyrażeniu pierwotnego rozkładu jako mieszaniny równomiernego rozkładu (o wadze p × 2 ϵ = 2 p ϵ ) i wszystkiego, co pozostanie. $f_X$$0$$p$$f_X(0)$$\epsilon$$x=0$$2\epsilon$$p$$p\times 2\epsilon=2p\epsilon$

Innymi słowy, możemy myśleć o jako powstającym w następujący sposób:$X$

1. Z prawdopodobieństwem draw wartość z jednolitej ( - ε , ε ) dystrybucji.$2p\epsilon$$(-\epsilon,\epsilon)$

2. W przeciwnym razie narysuj wartość z rozkładu, którego gęstość jest proporcjonalna do . (Jest to funkcja narysowana na żółto po prawej stronie).$f_X - p I_{(-\epsilon,\epsilon)}$

( jest funkcją wskaźnika).$I$

Etap pokazuje, że dla każdej 0 < u < ε , prawdopodobieństwo, że x wynosi 0 i U przekracza s U / 2 . Równolegle jest to szansa, że 1 / X przekroczy 1 / u . Innymi słowy: napisanie S dla funkcji przeżycia 1 /$(1)$$0 \lt u \lt \epsilon$$X$$0$$u$$p u / 2$$1/X$$1/u$$S$$1/X$

$$S(x) = \Pr(1/X \gt x),$$

obrazek pokazuje dla wszystkich .x > 1 /$S(x) \gt p / (2x)$$x \gt 1/\epsilon$

Skończyliśmy teraz, ponieważ ten fakt dotyczący sugeruje, że oczekiwanie jest nieokreślone. $S$ Porównaj całki zaangażowane w obliczanie oczekiwanej dodatniej części , :( 1 / X ) + = max ( 0 , 1 / X $1/X$$(1/X)_{+} = \max(0, 1/X)$

$$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$$

(Jest to argument czysto geometryczny: każda całka reprezentuje możliwy do zidentyfikowania dwuwymiarowy region, a wszystkie nierówności wynikają z ścisłych wtrąceń w tych obszarach. Rzeczywiście, nie musimy nawet wiedzieć, że ostateczna całka jest logarytmem: istnieją proste geometryczne argumenty wskazujące na tę całkowitą rozbieżność).

Ponieważ prawa strona różni się jako , różni. Sytuacja z ujemną częścią jest taka sama (ponieważ prostokąt jest wyśrodkowany wokół ), a ten sam argument pokazuje oczekiwanie, że ujemna część rozbieżna. W związku z tym oczekiwanie samego jest niezdefiniowane.$x\to\infty$$E[(1/X)_{+}]$$1/X$$0$$1/X$$1/X$

Nawiasem mówiąc, takie same przedstawiono argumentów, że gdy jest prawdopodobieństwo skoncentrowane na jednym boku z , takie jak dowolny rozkład wykładniczy lub gamma (parametr kształtu mniejszy niż ), a następnie jeszcze pozytywne rozbieżna oczekiwania, ale oczekiwana ujemny wynosi zero. W tym przypadku oczekiwanie jest zdefiniowane, ale jest nieskończone.$X$$0$$1$

Stosunki i inwersje są w większości znaczące w przypadku nieujemnych zmiennych losowych, więc prawie na pewno przyjmę . Następnie, jeśli X jest zmienną dyskretną, która przyjmuje wartość zero z prawdopodobieństwem dodatnim, będziemy dzielić z zerą z prawdopodobieństwem dodatnim, co tłumaczy, dlaczego oczekiwanie 1 / X nie istnieje.$X \ge 0$$X$$1/X$

Teraz spójrz na przypadek rozkładu ciągłego, gdzie jest losową zmienną z funkcją gęstości f ( x ) . Zakładamy, że f ( 0 ) > 0 i że f jest ciągłe (co najmniej zero). Następnie jest ϵ > 0 takie, że f ( x ) > ϵ dla 0 ≤ x < ϵ . Oczekiwaną wartość 1 / X podaje E $X \ge 0$$f(x)$$f(0)>0$$f$$\epsilon > 0$$f(x) > \epsilon$$0 \le x < \epsilon$$1/X$ Teraz zmieńmy zmienną całkowania na u = 1 / x , mamy d u = -

$$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$$ $u=1/x$ , otrzymując E $du = -\frac1{x^2} \; dx$ Teraz, z założenia f ( u ) > ϵ na [ 0 , ϵ ), więc f ( $$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$$ $f(u) > \epsilon$$[0,\epsilon)$on(1/ϵ,∞), używając tego mamy E$f(\frac1{u}) > 1/\epsilon$$(1/\epsilon, \infty)$ pokazujące, że oczekiwanie nie istnieje. Przykładem spełniającym to założenie jest rozkład wykładniczy ze stopniem 1. $$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$$

Udzieliliśmy odpowiedzi na odwrotność, a co ze stosunkami? Niech będzie stosunkiem dwóch nieujemnych zmiennych losowych. Jeśli są niezależne, możemy zapisać E Z = E $Z=Y/X$ więc prawie wszystko sprowadza się do pierwszego przypadku i nie ma wiele do powiedzenia. Co jeśli są zależne, z faktorowaniem gęstości połączeń jako f(x,y)=f(x∣y)g(y) Następnie otrzymujemy (stosując takie samo podstawienie jak powyżej) E

$$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$$ $$f(x,y) = f(x \mid y) g(y)$$ i możemy rozumować jak powyżej na wewnętrznej całce. Rezultat będzie taki, że jeśli gęstość warunkowa (podana y ) jest dodatnia i ciągła przy wartości zerowej, dla zbioru y z dodatnim prawdopodobieństwem krańcowym oczekiwanie będzie nieskończone. Myślę, że nie będzie łatwo znaleźć przykłady, w których krańcowe oczekiwanie 1 / X jest nieskończone, ale oczekiwanie stosunku Y / X jest skończone, chyba że istnieje idealna korelacja. Miło byłoby zobaczyć takie przykłady! $$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$$ $y$$y$$1/X$$Y/X$