Czy Gibbs pobiera próbki z metody MCMC?

11

O ile rozumiem, jest to (przynajmniej tak definiuje to Wikipedia ). Ale znalazłem to oświadczenie Efron * (wyróżnienie dodane):

Sieć Markov Monte Carlo (MCMC) to wielki sukces współczesnych statystyk bayesowskich. MCMC i jego siostrzana metoda „próbkowania Gibbsa” pozwalają na obliczenia numeryczne rozkładów bocznych w sytuacjach zbyt skomplikowanych do analizy analitycznej.

a teraz jestem zdezorientowany. Czy to tylko niewielka różnica w terminologii, czy Gibbs sampluje coś innego niż MCMC?

[*]: Efron 2011, „Bootstrap and Markov-Chain Monte Carlo”

Gabriel
źródło

Odpowiedzi:

15

Algorytm, który nazywa się teraz próbkowaniem Gibbsa, tworzy łańcuch Markowa i wykorzystuje do swoich danych wejściowych symulację Monte-Carlo, więc rzeczywiście mieści się w odpowiednim zakresie metod MCMC (Markov-Chain Monte-Carlo). Historycznie metodę tę można prześledzić co najmniej do połowy XX wieku, ale nie była ona dobrze znana i dopiero później została spopularyzowana w przełomowym artykule Gemana i Gemana (1984), w którym zbadano fizykę statystyczną w odniesieniu do użycia dystrybucja Gibbs (dla niektórych odniesień historycznych, zobacz Casella i George'a 1992 , str. 167).

Z jakiegoś powodu, choć w swojej pracy Efron odnosi się do próbnika Gibbs, jakby był poza zakresem MCMC. Robi to w cytowanym przez ciebie cytacie, a także w niektórych innych częściach artykułu. Ponieważ jego początkowe odniesienie do techniki odnosi się do „próbnika Gibbsa” (podanego w cytatach), możliwe jest, że nawiązuje on do historycznego faktu, że oryginalna metoda została opracowana poprzez rozkład Gibbsa w fizyce statystycznej i nie została włączona do ogólna teoria statystyczna MCMC do znacznie później. To jest moje najlepsze przypuszczenie, dlaczego odnosi się do tego w ten sposób.

Aktualizacja: Ponieważ prof. Efron wciąż żyje, mogłem napisać do niego z pytaniem, dlaczego tak opisuje sampler Gibbs. Oto jego odpowiedź (odtworzona za jego zgodą):

Było to głównie z przyczyn historycznych ... Z drugiej strony algorytm Gibbsa wygląda zupełnie inaczej niż przepis MCMC i potrzeba trochę pracy, aby pokazać, że jest w pewnym sensie taki sam. (Efron 2018, korespondencja osobista, elipsa w oryginale)

Ben - Przywróć Monikę
źródło
1
Dziękuję Ci! Poczekam, czy dostaniesz odpowiedź od dr Efrona, jeśli nie, nadal wybiorę tę odpowiedź.
Gabriel