Próbkowanie Gibbsa dla modelu Isinga

Pytanie do pracy domowej:

Rozważ model 1-d Isinga.

Niech . wynosi -1 lub +1 $x = (x_1,...x_d)$ $x_i$

$\pi(x) \propto e^{\sum_{i=1}^{39}x_ix_{i+1}}$

Zaprojektuj algorytm próbkowania Gibbs do generowania próbek w przybliżeniu z rozkładu docelowego . $\pi(x)$

Moja próba:

Losowo wybierz wartości (-1 lub 1), aby wypełnić wektor . Więc może . To jest . $x = (x_1,...x_{40})$ $x = (-1, -1, 1, 1, 1, -1, 1, 1,...,1)$ $x^0$

Teraz musimy przejść do pierwszej iteracji. Musimy narysować 40 różnych x dla osobno. Więc... $x^1$

Narysuj z $x_1^1$ $\pi(x_1 | x_2^0,...,x_{40}^0)$

Narysuj z $x_2^1$ $\pi(x_2 | x_1^1, x_3^0,...,x_{40}^0)$

Narysuj z $x_3^1$ $\pi(x_3 | x_1^1, x_2^1, x_4^0,...,x_{40}^0)$

Itp..

Więc to, co mnie potyka, to sposób, w jaki czerpiemy z rozkładu warunkowego. Jak wchodzi w grę ? Może przykład jednego losowania wyjaśni wszystko. $\pi(x) \propto e^{\sum_{i=1}^{39}x_ix_{i+1}}$

self-study sampling mcmc gibbs Collin
źródło

Odpowiedzi:

Najpierw spójrz na tę skrzynkę. Usuwamy warunki, które nie zależą od , mamy. $x_1$

π (x_{1} ∣ x_{2}, \dots, x_{d}) = \frac{π (x_{1}, x_{2}, \dots, x_{d})}{π (x_{2}, \dots, x_{d})} \propto e^{x_{1} x_{2}}

$\pi(x_1\mid x_2,\dots,x_d) = \frac{\pi(x_1,x_2,\dots,x_d)}{\pi(x_2,\dots,x_d)} \propto e^{x_1 x_2}$

P (X_{1} = - 1 ∣ X_{2} = x_{2}, \dots, X_{n} = x_{n}) = \frac{e^{- x_{2}}}{C}

$P(X_1=-1\mid X_2 = x_2, \dots, X_n=x_n) = \frac{e^{-x_2}}{C}$

P (X_{1} = 1 ∣ X_{2} = x_{2}, \dots, X_{n} = x_{n}) = \frac{e^{x_{2}}}{C}

$P(X_1=1\mid X_2 = x_2, \dots, X_n=x_n) = \frac{e^{x_2}}{C}$

\frac{e^{- x_{2}}}{C} + \frac{e^{x_{2}}}{C} = 1 \Rightarrow C = 2 \cosh x_{2}

$\frac{e^{-x_2}}{C} + \frac{e^{x_2}}{C} = 1 \Rightarrow C = 2 \cosh x_2$

x_1 <- sample(c(-1, 1), 1, prob = c(exp(-x_2), exp(x_2)) / (2*cosh(x_2)))

Uogólnij to na (zwróć uwagę na różnice; patrz komentarz Ilmari poniżej). $x_2,\dots,x_{40}$

Czy możesz użyć wyników analitycznych Isinga do sprawdzenia swojej symulacji?

Zen
źródło

Tak więc kończy się to tylko zależnością od wartości bezpośrednio przed nim w wektorze, tj. Jedynym terminem zależnym od jest , jedynym terminem zależnym od jest itd. Co z przypadkiem z ? Jak go narysować, skoro rozkład warunkowy wydaje się mieć zastosowanie tylko dla do 39?

x_{1}

$x_1$

x_{2}

$x_2$

x_{23}

$x_{23}$

x_{24}

$x_{24}$

x_{40}

$x_{40}$

i = 1

$i=1$

Collin,

@ user2079802: Nie, dla do otrzymujesz dwa wykładniki w wykładniku: . Ale nadal łatwo jest to ocenić dla .

x_{2}

$x_2$

x_{39}

$x_{39}$

π (x_{i} ∣ x_{1}, \dots, x_{i - 1}; x_{i + 1}, \dots, x_{d})

$\pi(x_i\mid x_1,\dotsc,x_{i-1}; x_{i+1},\dotsc,x_d)$

\propto

$\propto$

\exp (x_{i - 1} x_{i} + x_{i} x_{i + 1})

$\exp(x_{i-1} x_i+x_i x_{i+1})$

x_{i} = \pm 1

$x_i=\pm1$

Ilmari Karonen