Czy procesy stochastyczne, takie jak proces Gaussa / proces Dirichleta, mają gęstość? Jeśli nie, w jaki sposób można zastosować do nich regułę Bayesa?

10

Proces Dirichleta i Proces Gaussa są często nazywane „rozkładami na funkcje” lub „rozkładami na rozkłady”. W takim przypadku, czy mogę sensownie mówić o gęstości funkcji u lekarza ogólnego? Czy proces Gaussa lub proces Dirichleta mają jakieś pojęcie o gęstości prawdopodobieństwa?

Jeśli tak nie jest, w jaki sposób możemy zastosować zasadę Bayesa, aby przejść od poprzedniej do tylnej, jeśli pojęcie wcześniejszego prawdopodobieństwa funkcji nie jest dobrze zdefiniowane? Czy takie rzeczy jak szacunki MAP lub EAP istnieją w bayesowskim świecie nieparametrycznym? Wielkie dzięki.

snickerdoodles777
źródło
1
Biorąc pod uwagę, że (np.) Realizacja procesu Gaussa jest obserwowana tylko na skończonym zbiorze punktów, odpowiedni produkt miar Lebesgue'a jest miarą dominującą. Co oznacza, że ​​do obserwacji funkcji losowej przy skończonym zbiorze punktów istnieje gęstość. fa
Xi'an
Odpowiedź na temat gęstości jest twierdząca, a odpowiednia formuła matematyczna nosi nazwę pochodnej Radon-Nikodym.
whuber

Odpowiedzi:

4

„Gęstość” lub „prawdopodobieństwo” dotyczy twierdzenia Radona-Nikodyma w teorii miary. Jak zauważył @ Xi'an, rozważając skończony zestaw tak zwanych częściowych obserwacji procesu stochastycznego, prawdopodobieństwo odpowiada zwykłemu pojęciu pochodnej względem miary Lebesgue'a. Na przykład prawdopodobieństwo procesu Gaussa obserwowanego przy znanym skończonym zbiorze wskaźników jest przypadkowe wektorem losowym Gaussa ze średnią kowariancji wyprowadzoną z prawdopodobieństwa procesu, które mogą przyjmować sparametryzowane formy.

W wyidealizowanym przypadku, gdy nieskończona liczba obserwacji jest dostępna z procesu stochastycznego, miarą prawdopodobieństwa jest przestrzeń nieskończenie wymiarowa, na przykład przestrzeń funkcji ciągłych, jeśli proces stochastyczny ma ciągłe ścieżki. Ale nic nie istnieje jak miara Lebesgue'a w przestrzeni o nieskończenie wymiarach, dlatego nie ma prostej definicji prawdopodobieństwa.

W przypadku procesów gaussowskich istnieją przypadki, w których możemy zdefiniować prawdopodobieństwo za pomocą pojęcia równoważności miar Gaussa. Ważnym przykładem jest twierdzenie Girsanova, które jest szeroko stosowane w matematyce finansowej. Określa prawdopodobieństwo dyfuzji Itô Yt jako pochodna wrt rozkład prawdopodobieństwa standardowego procesu Wienera bt zdefiniowane dla t0. Zgrabna ekspozycja matematyczna znajduje się w książce Bernta Øksendala . (Nadchodząca) książka Särkkä i Solin zapewnia bardziej intuicyjną prezentację, która pomoże praktykom. Dostępna jest genialna ekspozycja matematyczna dotycząca analizy i prawdopodobieństwa w przestrzeniach nieskończenie wymiarowych autorstwa Nate Elderedge.

Zauważ, że prawdopodobieństwo procesu stochastycznego, który byłby całkowicie obserwowany, jest czasami nazywane przez statystów prawdopodobieństwem wypełnienia .

Yves
źródło
Bardzo pomocne wyjaśnienie! Myślę, że część mojego nieporozumień dotyczących takich tematów w Bayesian Nonparametrics wynika z braku znajomości teorii miary i analizy funkcjonalnej, więc z pewnością sprawdzę twoje referencje.
snickerdoodles777