Czy CDF są bardziej fundamentalne niż pliki PDF?

Moja stat prof w zasadzie powiedziała, że jeśli otrzyma się jedną z następujących trzech, można znaleźć dwie pozostałe:

Funkcja rozkładu skumulowanego
Funkcja generowania momentu
Funkcja gęstości prawdopodobieństwa

Ale mój profesor ekonometrii powiedział, że CDF są bardziej fundamentalne niż PDF, ponieważ istnieją przykłady, w których możesz mieć CDF, ale PDF nie jest zdefiniowany.

Czy CDF są bardziej fundamentalne niż pliki PDF? Skąd mam wiedzieć, czy plik PDF lub MGF można uzyskać z CDF?

probability pdf cdf mgf Stan Shunpike
źródło

Czy to jakiś konkurs na fundamentalność? Czy mamy panel sędziów gwiazd? Wszystkie te trzy pojęcia można wykorzystać do zdefiniowania miary na spacji . Jednak dla danego CDF, MGF i PDF mogą nie istnieć, ponieważ PDF jest zdefiniowany jako pochodna CDF, a MGF jest zdefiniowany jako , a to integralna nie musi istnieć. Nie oznacza to jednak, że którekolwiek z tych pojęć jest mniej fundamentalne. Fundamental to ładny przymiotnik, który nie ma matematycznej definicji. Jest to synonim ważnego.

R^{d}

$\mathbb{R}^d$

\int_{R} \exp (t x) d F (x)

$\int_{\mathbb{R}}\exp(tx)dF(x)$

mpiktas

@mpiktas: Każdy rozkład prawdopodobieństwa na (podzbiorze) ma CDF i jednoznacznie definiuje rozkład. Jednak nie wszystkie rozkłady prawdopodobieństwa mają format PDF lub MGF (ale wszystkie mają charakterystyczną funkcję ).

R^{n}

$\mathbb R^n$

Ilmari Karonen,

@mpiktas Można to zrobić z na . Zatem nie jest zdefiniowane. Niemniej jednak jest dla mnie jasne, dlaczego profesor użył wyrażenia „bardziej podstawowe”. Przymiotnik może nie mieć dobrze zdefiniowanego znaczenia matematycznego, ale co z tego? niektóre) również w języku angielskim. Każdy plik PDF, o którym wiemy, ma CDF. Tutaj „plik podstawowy” ma ładny związek z „podstawowym”. Przeciwnie nie jest prawdą.

A = {R, \emptyset}

$\mathcal A=\{\mathbb R,\varnothing\}$

R

$\mathbb R$

P ((- \infty, x])

$P((-\infty,x])$

drhab

@drhab, oczywiście mówiłem o pochodnej Radon-Nikodym :) Zbyt doskonale rozumiem, co profesor miał na myśli, ale moim zdaniem używanie takich wyrażeń w uczniach jest niebezpieczne, ponieważ zamiast próbować zrozumieć różnicę między pojęcia matematyczne starają się uszeregować je według fundamentalności, co jest zasadniczo błędne. Pun przeznaczony.

mpiktas

@mpiktas: jasne, nie ma dokładnej definicji „fundamentalnej”. Ale istnieje „duży środek” między „rygorystycznie zdefiniowanym” a „całkowicie bez znaczenia”. Oczywiście w samej naszej matematyce wszystko musi być całkowicie rygorystyczne, więc jesteśmy bardzo przyzwyczajeni do spychania wszystkiego, co nie jest. Ale kiedy mówimy i myślimy o matematyce, mamy subiektywne, ale znaczące pojęcia, takie jak „podstawowe”, „ogólne” itp., Tak jak wszyscy inni; i to jest OK.

PLL

Odpowiedzi:

Każdy rozkład prawdopodobieństwa na (podzbiorze) ma funkcję rozkładu skumulowanego i jednoznacznie definiuje rozkład. W tym sensie CDF jest tak samo fundamentalny jak sama dystrybucja. $\mathbb R^n$

Jednak funkcja gęstości prawdopodobieństwa istnieje tylko dla (absolutnie) ciągłych rozkładów prawdopodobieństwa . Najprostszym przykładem rozkładu pozbawionego pliku PDF jest dowolny dyskretny rozkład prawdopodobieństwa , taki jak rozkład zmiennej losowej, która przyjmuje tylko wartości całkowite.

Oczywiście takie dyskretne rozkłady prawdopodobieństwa można zamiast tego scharakteryzować za pomocą funkcji masy prawdopodobieństwa , ale istnieją również rozkłady, które nie mają ani PDF, ani PMF, takie jak dowolna mieszanina rozkładu ciągłego i dyskretnego:

^{(Schemat bezwstydnie skradziony z odpowiedzi Glen_b na powiązane pytanie).}

Istnieją nawet pojedyncze rozkłady prawdopodobieństwa , takie jak rozkład Cantora , którego nie można opisać nawet przez połączenie pliku PDF i PMF. Takie dystrybucje wciąż mają jednak dobrze zdefiniowany CDF. Na przykład, tutaj jest CDF dystrybucji Cantor, czasami nazywanej również „Schodami Diabła”:

^{( Zdjęcie z Wikimedia Commons autorstwa użytkowników Theon i Amirki , użyte na licencji CC-By-SA 3.0 .)}

CDF, znany jako funkcja Cantor , jest ciągły, ale nie absolutnie ciągły. W rzeczywistości jest stały wszędzie, z wyjątkiem zbioru Cantora o zerowej miary Lebesgue'a, ale który wciąż zawiera nieskończenie wiele punktów. Zatem cała masa prawdopodobieństwa rozkładu Cantora jest skoncentrowana na tym znikającym małym podzbiorze rzeczywistej linii liczbowej, ale każdy punkt w zbiorze wciąż indywidualnie ma zerowe prawdopodobieństwo.

Istnieją również rozkłady prawdopodobieństwa, które nie mają funkcji generowania momentu . Prawdopodobnie najlepiej znanym przykładem jest rozkład Cauchy- , A rozkład tłuszczu rozkładem , który ma dobrze określone momenty rzędu 1 lub wyższy (a więc w szczególności nie ma już dobrze określonej średniej i wariancji!).

Wszystkie rozkład prawdopodobieństwa na mają jednak mieć grupę (ewentualnie) zespolonych funkcji charakterystycznej ), którego definicja różniąca się od tego MGF tylko przez pomnożenie jednostka urojona . Tak więc funkcję charakterystyczną można uznać za tak fundamentalną jak CDF. $\mathbb R^n$

Ilmari Karonen
źródło

Mówicie, że każda dystrybucja ma CDF, ale nie każda ma PDF, ale tak naprawdę istnieją dystrybucje, które mają PDF i nie mają zamkniętych CDF, np. Normalna wielowymiarowa.

Tim

@Tim: To prawda, ale tylko z kwalifikatorem „zamkniętej formy”; CDF nadal istnieje, nawet jeśli nie możemy napisać go w formie zamkniętej. W każdym razie definicja „ wyrażenia w formie zamkniętej ” jest powszechnie niewyraźna; według niektórych ścisłych definicji, nawet rozkład normalny jednowymiarowy nie ma CDF o zamkniętej formie, ale jeśli uważasz, że funkcja błędu ma postać zamkniętą, to ma.

Ilmari Karonen,

@Tim To nie jest kontrprzykład. Jest to arbitralna właściwość, którą wybrałeś jako ważną / fundamentalną dla ciebie. Dla mnie właściwość „istnieje” jest ważniejsza niż „ma formę zamkniętą”. Co więcej, „zawsze istnieje” kontra „czasami nie może mieć formy zamkniętej, tak jak każda funkcja”.

Ark-kun

[0, 1] \subset R

$[0,1] \subset \Bbb{R}$

@ Ark-kun Gram tutaj jako zwolenników diabłów, ponieważ są przypadki, w których PDF jest czymś bardziej „bezpośrednio dostępnym” niż CDF. Podoba mi się ta odpowiedź (+1), ale IMHO, to jest coś, o czym również można wspomnieć.

Tim

Wierzę, że twój profesor ekonometrii myślał coś w następujący sposób.

$F$ $[0, 1]$

fa (x) = \frac{1}{2)} x dla x < \frac{1}{2)}

$F(x) = \frac{1}{2}x \ \text{for} \ x < \frac{1}{2}$

fa (x) = \frac{1}{2)} x + \frac{1}{2)} dla x \geq \frac{1}{2)}

$F(x) = \frac{1}{2}x + \frac{1}{2} \ \text{for} \ x \geq \frac{1}{2}$

$[0, 1]$

P. ({\frac{1}{2)}}) = \frac{1}{2)}

$P\left(\left\{\frac{1}{2}\right\}\right) = \frac{1}{2}$

$f$

Zgodnie z definicją pliku PDF musimy go mieć

\int_{0}^{x} fa (t) re t = fa (x) - fa (0) = \frac{1}{4} x

$\int_0^x f(t) dt = F(x) - F(0) = \frac{1}{4}x$

$0 < x < \frac{1}{2}$

fa (x) = \frac{1}{4} dla x < \frac{1}{2)}

$f(x) = \frac{1}{4} \ \text{for} \ x < \frac{1}{2}$

$x > \frac{1}{2}$

fa (x) = \frac{1}{4} dla x > \frac{1}{2)}

$f(x) = \frac{1}{4} \ \text{for} \ x > \frac{1}{2}$

$f$ $f\left(\frac{1}{2}\right)$ $f\left(\frac{1}{2}\right)$

P. ({\frac{1}{2)}}) = \frac{1}{2)}

$P\left(\left\{\frac{1}{2}\right\}\right) = \frac{1}{2}$

potrzebowalibyśmy

\int_{\frac{1}{2)} - ϵ}^{\frac{1}{2)} + ϵ} fa (t) re t > \frac{1}{2)}

$\int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} f(t) dt > \frac{1}{2}$

$\frac{1}{2}$

\int_{\frac{1}{2)} - ϵ}^{\frac{1}{2)} + ϵ} fa (t) re t = \int_{\frac{1}{2)} - ϵ}^{\frac{1}{2)} + ϵ} \frac{1}{4} re t = \frac{1}{2)} ϵ

$\int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} f(t) dt = \int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} \frac{1}{4} dt = \frac{1}{2} \epsilon$

$f$

Możesz odzyskać ducha pliku PDF, ale musisz użyć bardziej wyrafinowanych obiektów matematycznych, zarówno miary, jak i rozkładu .

Matthew Drury
źródło

\frac{1}{2} δ (x - \frac{1}{2})

$\frac{1}{2} \delta \left(x-\frac{1}{2}\right)$

δ (x)

$\delta(x)$

x = 0

$x=0$

\int_{- \infty}^{+ \infty} δ (x) re x = 1

$\int\limits_{-\infty}^{+\infty} \delta(x) \,\mathrm{d}x = 1$

L^{1}

$L^1$

@IwillnotexistIdonotexist To, co powiedział Whuber, to to, o czym mówiłem w ostatnim wierszu. Użyłem słowa „dystrybucja”.

Matthew Drury

1 / 2

$1/2$

1 / 2

$1/2$

Ilmari daje dobrą odpowiedź z teoretycznego punktu widzenia. Można jednak zapytać, w jakim celu gęstość (pdf) i funkcja rozkładu (pdf) służą do praktycznych obliczeń. To może wyjaśnić, w których sytuacjach jedna jest bardziej bezpośrednio przydatna niż druga.

$\mathbb{R}$ $(-\infty,x]$ $-$ $-$

Gęstość jest jednak niezbędna dla statystyki, ponieważ prawdopodobieństwo określa się w kategoriach gęstości. Zatem jeśli chcemy obliczyć oszacowanie maksymalnego prawdopodobieństwa, potrzebujemy bezpośrednio gęstości.

Jeśli przejdziemy do porównania rozkładu empirycznego i teoretycznego, oba mogą być przydatne, ale metody takie jak wykresy pp i qq oparte na funkcji rozkładu są często preferowane.

$\mathbb{R}^d$ $d \geq 2$

NRH
źródło