Dlaczego splot działa?

Wiem więc, że jeśli chcemy znaleźć rozkład prawdopodobieństwa sumy niezależnych zmiennych losowych $X + Y$ , możemy obliczyć go z rozkładów prawdopodobieństwa $X$ i , mówiąc: $Y$

f_{X + Y} (a) = \int_{x = - \infty}^{\infty} f_{X, Y} (X = x, Y = a - x) d x = \int_{x = - \infty}^{\infty} f_{X} (x) f_{Y} (a - x) d x

$f_{X + Y}(a) = \int_{x = -\infty}^{\infty} f_{X, Y}(X = x, Y = a - x)~dx = \int_{x = -\infty}^{\infty} f_X(x) f_Y(a - x)~dx$

Intuicyjnie ma to sens, ponieważ jeśli chcemy znaleźć prawdopodobieństwo, że dwie zmienne losowe sumują się do , jest to w zasadzie suma prawdopodobieństw wszystkich zdarzeń, które prowadzą do zsumowania tych zmiennych do . Ale jak mogę formalnie udowodnić to oświadczenie? $a$ $a$

probability Jessica
źródło

Nieco inne pytanie, ale odpowiedź jest podobna .

Carl

Odpowiedzi:

Bardziej ogólne rozwiązanie uwzględnia gdzie i niekoniecznie są niezależne. Powszechną strategią rozwiązywania problemów, w których zastanawiasz się, skąd pochodzi plik PDF lub jak go uzasadnić, jest znalezienie skumulowanego prawdopodobnie zamiast tego, a następnie różnicowanie w celu zmniejszenia CDF do formatu PDF. $Z = X + Y$ $X$ $Y$

Łatwo zauważyć, że w takim przypadku gdzie jest regionem płaszczyzny - , dla której . $F_Z(z) = \mathrm{P}(Z \leq z) = \int \int_R f_{X,Y}(x,y)\,\mathrm{d}x\,\mathrm{d}y$ $R$ $x$ $y$ $x + y \leq z$

Jest to region z kreskowaniem niebieskim na poniższym schemacie. To naturalne, że integracja w tym regionie odbywa się poprzez rozbicie go na paski - zrobiłem to z pionowymi paskami, ale poziome wystarczą. W efekcie uzyskuję pasek dla każdej współrzędnej , w zakresie od do , i wzdłuż każdego paska chcę, aby wartości nie rosły powyżej linii , więc . $x$ $-\infty$ $\infty$ $y$ $x + y = z$ $y \leq z - x$

z <x + y

Teraz, gdy uzyskaliśmy granice całkowania w kategoriach i , możemy dokonać podstawienia , w następujący sposób, w celu uzyskania, aby pojawiło się jako górna granica . Matematyka jest prosta, o ile rozumiesz użycie jakobianu do zmiany zmiennych. $x$ $y$ $u=x$ $v=x+y$ $z$ $v$

F_{Z} (z) = \int_{x = - \infty}^{x = \infty} \int_{y = - \infty}^{y = z - x} f_{X, Y} (x, y) d x d y = \int_{v = - \infty}^{v = z} \int_{u = - \infty}^{y = \infty} f_{X, Y} (u, v - u) d u d v

$F_Z(z) = \int_{x = -\infty}^{x=\infty}\int_{y=-\infty}^{y=z-x}f_{X,Y}(x,y)\,\mathrm{d}x\,\mathrm{d}y = \int_{v = -\infty}^{v=z}\int_{u=-\infty}^{y=\infty}f_{X,Y}(u,v-u)\,\mathrm{d}u\,\mathrm{d}v$

Dopóki spełnione są określone warunki, możemy rozróżnić pod znakiem integralnym w odniesieniu do aby uzyskać: $z$

f_{Z} (z) = \int_{- \infty}^{\infty} f_{X, Y} (u, z - u) d u

$f_Z(z) = \int_{-\infty}^{\infty}f_{X,Y}(u, z-u)\,\mathrm{d}u$

Działa to nawet wtedy, gdy i nie są niezależne. Ale jeśli tak, możemy przepisać gęstość spoiny jako iloczyn dwóch marginalnych: $X$ $Y$

f_{Z} (z) = \int_{- \infty}^{\infty} f_{X} (u) f_{Y} (z - u) d u

$f_Z(z) = \int_{-\infty}^{\infty}f_X(u)f_Y(z-u)\,\mathrm{d}u$

W razie potrzeby zmienną fikcyjną można bez szkody zapisać jako . $u$ $x$

Moje oznaczenie całek jest dokładnie zgodne z rozdziałem 6.4 Geoffrey Grimmett i Dominic Walsh, Prawdopodobieństwo: wprowadzenie , Oxford University Press, Nowy Jork, 2000.

Silverfish
źródło

+1 Zgodnie z zapisami konwencja polega na tym, że różnica na zewnątrz całki wielokrotnej dotyczy całki zewnętrznej; zatem w wyrażeniu postaci integracja względem jest wykonywana jako pierwsza - to jest całka wewnętrzna - i ta w odniesieniu do wykonuje się na końcu - jest to całka zewnętrzna. To pozwala nam umieszczać nawiasy bez zmiany znaczenia, tak jak w .

\iint \dots d x d y

$\iint \cdots \mathrm{d}x\,\mathrm{d} y$

x

$x$

y

$y$

\int (\int \dots d x) d y

$\int\left(\int \cdots \mathrm{d}x\right)\mathrm{d}y$

whuber

@ whuber, myśląc o tym, jest to z pewnością konwencja stosowana w prawie każdym podręczniku, jaki znam (więc wielokrotna integracja jest skutecznie całkami zagnieżdżonymi). Ale przeglądając, Grimmett i Welsh „Prawdopodobieństwo: wprowadzenie” są absolutnie spójni z własną konwencją tego samego porządku od lewej do prawej dla obu limitów i różnic, na przykład dają !

\int_{u} \int_{v} \int_{w} . . . d u d v d w

$\int_u \int_v \int_w ... du\,dv\,dw$

Silverfish,

Ciągle mnie rozbawia to, że na skrzyżowaniu wielu dziedzin jesteśmy narażeni na sprzeczne konwencje. To jedna z radości pracy z ludźmi z różnych środowisk.

whuber

@ whuber Zdaję sobie sprawę, że konwencje określania całek różnią się znacznie w poszczególnych krajach - spodoba ci się to w Tex SE tex.stackexchange.com/a/88961/25866 i szkoda, że nie zostały rozszerzone o wiele integracji!

Silverfish,

Stwierdzenie jest prawdziwe wtedy i tylko wtedy, gdy prawa strona działa jak gęstość dla ; to jest, $X+Y$

F_{X + Y} (a) = P (X + Y \leq a) = \int_{- \infty}^{a} f_{X + Y} (z) d z = \int_{- \infty}^{a} (\int f_{X} (x) f_{Y} (z - x) d x) d z

$F_{X+Y}(a)=\mathbb{P}(X+Y\le a) = \int_{-\infty}^a f_{X+Y}(z)\,\mathrm{d}z = \int_{-\infty}^a \left(\int f_X(x) f_Y(z-x)\,\mathrm{d}x\right)\mathrm{d}z$

dla wszystkich . Sprawdźmy to, zaczynając od prawej strony. $a$

Zastosuj Twierdzenie Fubiniego, aby zmienić kolejność całkowania i dokonać podstawienia . Wyznacznikiem jego jakobianu jest , więc ta zmiana zmiennych nie wprowadza żadnych dodatkowych terminów. Zauważ, że ponieważ i są w relacji jeden do jednego, a wtedy i tylko wtedy, gdy , możemy przepisać całkę jako $z = x+y$ $1$ $z$ $y$ $-\infty \lt z \le a$ $-\infty \lt y \lt a-x$

= \int (\int_{- \infty}^{a - x} f_{X} (x) f_{Y} (y) d y) d x .

$=\int \left(\int_{-\infty}^{a-x}f_X(x)f_Y(y)\,\mathrm{d} y\right)\mathrm{d}x.$

Z definicji jest to całka z z $\mathbb{R}^2$

= \iint I (x + y \leq a) f_{X} (x) f_{Y} (y) d y d x

$=\iint I(x+y\le a)f_X(x)f_Y(y)\,\mathrm{d}y\,\mathrm{d}x$

gdzie jest funkcją wskaźnika zestawu. Wreszcie, ponieważ i są niezależne, dla wszystkich , ujawniając całkę jako jedynie oczekiwanie $I$ $X$ $Y$ $f_{(X,Y)}(x,y) = f_X(x)f_Y(y)$ $(x,y)$

= \iint I (x + y \leq a) f_{(X, Y)} (x, y) d y d x = E (I (X + Y \leq a)) = P (X + Y \leq a),

$=\iint I(x+y\le a)f_{(X,Y)}(x,y)\,\mathrm{d}y\,\mathrm{d}x = \mathbb{E}(I(X+Y\le a))=\mathbb{P}(X+Y\le a),$

zgodnie z życzeniem.

Mówiąc bardziej ogólnie, nawet jeśli jeden lub oba lub nie mają funkcji rozkładu, nadal możemy uzyskać $X$ $Y$

F_{X + Y} (a) = E_{X} (F_{Y} (a - X)) = E_{Y} (F_{X} (a - Y))

$F_{X+Y}(a) = \mathbb{E}_X\left(F_Y(a-X)\right) = \mathbb{E}_Y\left(F_X(a-Y)\right)$

bezpośrednio z podstawowych definicji, wykorzystując oczekiwanie wskaźników do przechodzenia między prawdopodobieństwami a oczekiwaniami oraz wykorzystując założenie niezależności, aby rozbić obliczenia na osobne oczekiwania w odniesieniu do i : $X$ $Y$

\begin{aligned} P (X + Y \leq a) & = E (I (X + Y \leq a)) \\ = E_{X} (E_{Y} (I (X + Y \leq a)) \\ = E_{X} (P_{Y} (Y \leq a - X)) \\ = E_{X} (F_{Y} (a - X)) . \end{aligned}

$\eqalign{ \mathbb{P}(X+Y\le a) &= \mathbb{E}(I(X+Y\le a)) \\ &= \mathbb{E}_X\left(\mathbb{E}_Y(I(X+Y\le a)\right) \\ &= \mathbb{E}_X\left(\mathbb{P}_Y(Y\le a-X)\right) \\ &=\mathbb{E}_X(F_Y(a-X)). }$

Obejmuje to na przykład zwykłe wzory na dyskretne zmienne losowe, choć w nieco innej formie niż zwykle (ponieważ jest to wyrażone raczej w kategoriach CDF niż w funkcjach masy prawdopodobieństwa).

Jeśli masz wystarczająco silne twierdzenie o zamianie pochodnych i całek, możesz rozróżnić obie strony względem aby uzyskać gęstość za jednym pociągnięciem, $a$ $f_{X+Y}$

\begin{aligned} f_{X + Y} (a) & = \frac{d}{d a} F_{X + Y} (a) = E_{X} (\frac{d}{d a} F_{Y} (a - X)) = E_{X} (f_{Y} (a - X)) \\ = \int f_{X} (x) f_{Y} (a - x) d x . \end{aligned}

$\eqalign{ f_{X+Y}(a) &= \frac{\mathrm{d}}{\mathrm{d}a} F_{X+Y}(a) =\mathbb{E}_X\left(\frac{\mathrm{d}}{\mathrm{d}a} F_Y(a-X)\right) = \mathbb{E}_X \left(f_Y(a-X)\right) \\ &= \int f_X(x) f_Y(a-x) \,\mathrm{d} x. }$

Whuber
źródło