Jaki byłby przykład naprawdę prostego modelu o niewiarygodnym prawdopodobieństwie?

16

Przybliżone obliczenia bayesowskie to naprawdę fajna technika dopasowania w zasadzie dowolnego modelu stochastycznego, przeznaczona dla modeli, w których prawdopodobieństwo jest trudne (powiedzmy, możesz próbkować z modelu, jeśli naprawisz parametry, ale nie możesz obliczyć prawdopodobieństwa numerycznie, algorytmicznie lub analitycznie ). Wprowadzając publiczność w przybliżeniu obliczenia bayesowskie (ABC), dobrze jest użyć przykładowego modelu, który jest naprawdę prosty, ale wciąż nieco interesujący i który ma mało prawdopodobne prawdopodobieństwo.

Jaki byłby dobry przykład naprawdę prostego modelu, który wciąż ma mało prawdopodobne prawdopodobieństwo?

bayesian simulation model likelihood abc Rasmus Bååth
źródło
3
Twój przykład skarpet jest naprawdę prosty i w większości trudny do rozwiązania ...
Xi'an,
2
Ps: Przykładowy skarpetka link ...
Xi'an
Miałem nadzieję, że skarpetki będą trudne, ale udowodniłeś, że tak nie jest, prawda? :)
Rasmus Bååth,
4
To dobre pytanie! W literaturze jest wiele przykładów zabawek, ale wydaje mi się to trochę sztuczne. Byłoby miło mieć naprawdę prosty model motywowany prawdziwą aplikacją o niewiarygodnym prawdopodobieństwie. Wydaje mi się, że pamiętam, jak David Cox prezentował coś w tym stylu, ale nie widziałem, żeby to opublikowano ...
Dennis Prangle,

Odpowiedzi:

13

Dwie dystrybucje, które są często używane w literaturze to:

  • Rozkład g-i-k. Jest to zdefiniowane przez jego funkcję kwantylową (odwrotny cdf), ale ma nieuchwytną gęstość. Rayner i MacGillivray (2002) są dobrym ich przeglądem, a jednym z wielu artykułów ABC, które wykorzystują go jako przykład zabawki, są Drovandi i Pettitt (2011) .
  • Stabilne rozkłady alfa. Są one określone przez ich charakterystyczną funkcję, ale mają trudną do zagęszczenia gęstość, z wyjątkiem kilku szczególnych przypadków. Ma to zastosowanie w finansach i jest często stosowane w kolejnych dokumentach ABC, na przykład Yildirim i in. (2013) .
Dennis Prangle
źródło
2
Rozkład g-i-k jest bardzo dobrym przykładem, w którym funkcja kwantylu jest łatwa do wyrażenia, podczas gdy funkcja prawdopodobieństwa nie jest w ogóle dostępna: αrozkład -STABLE mniej prosty wyjaśnić początkujących.
Q(u;A,B,g,k)=A+B[1+c1−exp⁡{−gΦ(u)}1+exp⁡{−gΦ(u)}]{1+Φ(u)2}kΦ(u)
α
Xi'an,
2
Czy ktoś mógłby dodać przykłady sytuacji, które można by modelować z tymi dystrybucjami?
przypuszcza
8

Jednym z przykładów, z którym się zetknąłem kilka tygodni temu i jest bardzo podobny do prostoty jest następujący: biorąc pod uwagę oryginalny normalny zestaw danych

x1,…,xn∼iidN(θ,σ2),
S(x1,…,xn)=(med(x1,…,xn),mad(x1,…,xn)),
Xi'an
źródło
3
Tylko dlatego, że gęstość spoiny jest trudna do zanotowania, nie oznacza, że ​​nie ma ona formy zamkniętej! W tym wątku „nietykalny” zaczyna wydawać się kwestią opinii. Być może mógłbyś to wyjaśnić, tłumacząc, co rozumiesz przez „trudny”?
whuber
1
Ponieważ nie znam nikogo, kto byłby w stanie obliczyć tę gęstość, nazywam ją trudną ... Ponieważ nie mam programu komputerowego, który mógłby wygenerować wartość liczbową tego prawdopodobieństwa, jestem zmuszony użyć algorytmu ABC.
Xi'an
3
ABC nie oblicza prawdopodobieństwa, ale wykorzystuje symulacje z danych, aby dostarczyć próbkę parametrów, która jest przybliżeniem prawdziwej tylnej. Na koniec dnia / obliczeń nie jestem mądrzejszy o funkcji prawdopodobieństwa i nie mogę wygenerować wartości liczbowej dlaL.(θ|x1,…,xn).
Xi'an,
2
@whuber Gdyby można było z powodzeniem obliczyć prawdopodobieństwo, przykład nie byłby bardzo odpowiedni do zademonstrowania algorytmu aproksymacji bocznych bez obliczania prawdopodobieństwa×wcześniejsze produkty.
Juho Kokkala,
2
@ whuber Myślę, że twoja interpretacja (2) w komentarzu rozpoczynającym się od „Zastanawiam się” jest co najmniej zasadniczo zamierzona. Nie rozumiem jednak twojej ostatniej uwagi „chyba że wykonanie algorytmu ABC zajmuje dużo czasu” - chodzi o to, że zamiast tego można uniknąć kosztownej oceny prawdopodobieństwa.
Juho Kokkala,