Próbowałem nauczyć się metod MCMC i natknąłem się na próbkowanie Metropolis Hastings, Gibbs, Ważność i Odrzucenie. Chociaż niektóre z tych różnic są oczywiste, tj. Jak Gibbs jest szczególnym przypadkiem Metropolis Hastings, gdy mamy pełne warunki warunkowe, inne są mniej oczywiste, na przykład gdy chcemy użyć MH w próbniku Gibbs itp. Czy ktoś ma prosty sposób, aby zobaczyć większość różnic między nimi? Dzięki!
mcmc
monte-carlo
gibbs
metropolis-hastings
importance-sampling
użytkownik1398057
źródło
źródło
Odpowiedzi:
Jak wyszczególniono w naszej książce z George Casella, Monte Carlo metod statystycznych , metody te są stosowane do próbek produktów z danej dystrybucji, o gęstości powiedzenia, albo aby zorientować się na temat tej dystrybucji, lub do rozwiązania integracji i optymalizacji problemu związanego z f . Na przykład, aby znaleźć wartość ∫ X h ( x ) f ( x ) d xfa fa lub tryb rozkładu h ( X ), gdy X ∼ f ( x ) lub kwantyl tego rozkładu.
Aby porównać łańcuch Monte Carlo i Markowa metody Monte Carlo, o których wspominasz w odpowiednich kryteriach, wymagają ustalenia tła problemu i celów eksperymentu symulacyjnego, ponieważ zalety i wady każdego z nich będą się różnić w zależności od przypadku.
Oto kilka ogólnych uwag, które z pewnością nie obejmują złożoności problemu :
źródło
h(x)
konkretnie oznaczah(x)f(x)dx
, w scenariuszu analizy bayesowskiej. Staramy się uzyskać tył, biorąc pod uwagę wcześniejsze i dane. Wydaje się jednak, że przy tych wszystkich metodach próbkowania faktycznie próbujemy to przybliżyćf(x)
. Czy można więc powiedzieć, żef(x)
jest to pozycja tylna, której szukamy, ih(x)
jest to tylko arbitralna funkcja, którą moglibyśmy również połączyć z częścią tylnąf(x)
? Czy nie zrozumiałem tego poprawnie? Dzięki.