Proces Dirichleta i Proces Gaussa są często nazywane „rozkładami na funkcje” lub „rozkładami na rozkłady”. W takim przypadku, czy mogę sensownie mówić o gęstości funkcji u lekarza ogólnego? Czy proces Gaussa lub proces Dirichleta mają jakieś pojęcie o gęstości prawdopodobieństwa?
Jeśli tak nie jest, w jaki sposób możemy zastosować zasadę Bayesa, aby przejść od poprzedniej do tylnej, jeśli pojęcie wcześniejszego prawdopodobieństwa funkcji nie jest dobrze zdefiniowane? Czy takie rzeczy jak szacunki MAP lub EAP istnieją w bayesowskim świecie nieparametrycznym? Wielkie dzięki.
machine-learning
probability
bayesian
nonparametric
nonparametric-bayes
snickerdoodles777
źródło
źródło
Odpowiedzi:
„Gęstość” lub „prawdopodobieństwo” dotyczy twierdzenia Radona-Nikodyma w teorii miary. Jak zauważył @ Xi'an, rozważając skończony zestaw tak zwanych częściowych obserwacji procesu stochastycznego, prawdopodobieństwo odpowiada zwykłemu pojęciu pochodnej względem miary Lebesgue'a. Na przykład prawdopodobieństwo procesu Gaussa obserwowanego przy znanym skończonym zbiorze wskaźników jest przypadkowe wektorem losowym Gaussa ze średnią kowariancji wyprowadzoną z prawdopodobieństwa procesu, które mogą przyjmować sparametryzowane formy.
W wyidealizowanym przypadku, gdy nieskończona liczba obserwacji jest dostępna z procesu stochastycznego, miarą prawdopodobieństwa jest przestrzeń nieskończenie wymiarowa, na przykład przestrzeń funkcji ciągłych, jeśli proces stochastyczny ma ciągłe ścieżki. Ale nic nie istnieje jak miara Lebesgue'a w przestrzeni o nieskończenie wymiarach, dlatego nie ma prostej definicji prawdopodobieństwa.
W przypadku procesów gaussowskich istnieją przypadki, w których możemy zdefiniować prawdopodobieństwo za pomocą pojęcia równoważności miar Gaussa. Ważnym przykładem jest twierdzenie Girsanova, które jest szeroko stosowane w matematyce finansowej. Określa prawdopodobieństwo dyfuzji ItôYt jako pochodna wrt rozkład prawdopodobieństwa standardowego procesu Wienera bt zdefiniowane dla t ≥ 0 . Zgrabna ekspozycja matematyczna znajduje się w książce Bernta Øksendala . (Nadchodząca) książka Särkkä i Solin
zapewnia bardziej intuicyjną prezentację, która pomoże praktykom. Dostępna jest genialna ekspozycja matematyczna dotycząca analizy i prawdopodobieństwa w przestrzeniach nieskończenie wymiarowych autorstwa Nate Elderedge.
Zauważ, że prawdopodobieństwo procesu stochastycznego, który byłby całkowicie obserwowany, jest czasami nazywane przez statystów prawdopodobieństwem wypełnienia .
źródło