Twierdzenie o granicy centralnej dla łańcuchów Markowa

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ The Central Limit Theorem (CLT) stwierdza, że dla niezależne i identycznie rozmieszczone (iid) z i nazwa , suma zbiega się do rozkładu normalnego jako : $X_1,X_2,\dots$ $\E[X_i]=0$ $\operatorname{ Var} (X_i)<\infty$ $n\to\infty$

\sum_{i = 1}^{n} X_{i} \to N (0, \sqrt{n}) .

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

Załóżmy zamiast tego, że tworzą łańcuch Markowa w stanie skończonym ze stacjonarnym rozkładem z oczekiwaniem 0 i ograniczoną wariancją. Czy w tym przypadku istnieje proste rozszerzenie CLT? $X_1,X_2,\dots$ $\P_\infty$

Artykuły, które znalazłem na CLT dla Markov Chains, ogólnie traktują o wiele bardziej ogólne przypadki. Byłbym bardzo wdzięczny za wskaźnik do odpowiedniego ogólnego wyniku i wyjaśnienie, w jaki sposób ma on zastosowanie.

markov-process central-limit-theorem tom4everitt
źródło

Artykuł Lin and Tegmark Critical Behavior from Deep Dynamics dogłębnie omawia

Mike Hunter

Odpowiedzi:

Odpowiedź Alexa R. jest prawie wystarczająca, ale dodam jeszcze kilka szczegółów. W „ Twierdzeniu o centralnej granicy łańcucha Markowa - Galin L. Jones” , jeśli spojrzysz na twierdzenie 9, powie ono:

Jeśli jest ergodycznym łańcuchem Harrowa Markowa o rozkładzie stacjonarnym , CLT oznacza jeśli jest równomiernie ergodyczny, a . $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

W przypadku skończonych przestrzeni stanów wszystkie nieredukowalne i nieokresowe łańcuchy Markowa są jednakowo ergodyczne. Dowodem na to jest spore doświadczenie w teorii łańcucha Markowa. Dobrym odniesieniem byłoby tutaj, na dole Twierdzenia 18 tutaj .

Zatem łańcuch Markowa CLT zachowałby się dla każdej funkcji która ma skończony drugi moment. Forma, jaką przyjmuje CLT, jest opisana w następujący sposób. $f$

Niech być czasowo uśredniony estymator , a następnie Alex R. wskazuje się, a , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{f}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \overset{a.s.}{\to} E_{π} [f] .

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

Łańcuch Markowa CLT to

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

gdzie

σ^{2} = \underset{Expected term}{\underset{⏟}{{Var}_{π} (f (X_{1}))}} + \underset{Term due to Markov chain}{\underset{⏟}{2 \sum_{k = 1}^{\infty} {Cov}_{π} (f (X_{1}), f (X_{1 + k}))}} .

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

Pochodne terminu można znaleźć na stronie 8 i stronie 9 notatek MCMC Charlesa Geyera tutaj $\sigma^2$

Greenparker
źródło

Dzięki, to bardzo jasne! Czy istnieje prosty argument, dlaczego skończone, nieredukowalne i aperiodyczne łańcuchy Markowa są jednakowo ergodyczne? (nie to, że ci nie ufam ^^).

tom4everitt

@ tom4everitt Niestety definicja „łatwego” jest subiektywna. Jeśli znasz warunki znoszenia i pomniejszenia dla łańcuchów Markowa, argument jest łatwy. Jeśli nie, to byłby to długi argument. Zamiast tego spróbuję znaleźć referencję. Może chwilę potrwać.

Greenparker,

To byłoby niesamowite. Jeśli nie znajdziesz, kilka zdań wskazujących na głównych krokach byłoby nadal pomocne.

tom4everitt,

@ tom4everitt Dodano odniesienie do odpowiedzi. Mam nadzieję, że to wystarczy.

Greenparker,

@Greenparker Czy mogę prosić o pomoc w zrozumieniu, w jaki sposób powstaje wariancja w odpowiedzi. Przejrzałem odniesienie w twojej odpowiedzi, ale nie znalazłem tam pochodnej. Mam źródło, MC for MCsist, ale nie do końca rozumiem, jak się tam wywodzi. To jest, w jaki sposób wyprowadza się termin ? Dziękuję Ci!

σ^{2}

$\sigma^2$

LeastSquaresWonderer

„Zwykłym” wynikiem dla Łańcuchów Markowa jest twierdzenie Ergodyczne Birkhoffa, które to mówi

\frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \to E_{π} [f],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

gdzie jest rozkładem stacjonarnym, a spełnia , a zbieżność jest prawie pewna. $\pi$ $f$ $E|f(X_1)|<\infty$

Niestety fluktuacje tej konwergencji są na ogół dość trudne. Wynika to głównie z ekstremalnej trudności w ustaleniu całkowitych granic zmienności dotyczących tego, jak szybko zbliża się do rozkładu stacjonarnego . Znane są przypadki, w których fluktuacje są analogiczne do CLT, a na dryfie można znaleźć pewne warunki, które sprawiają, że analogia się utrzymuje: Na centralnym twierdzeniu granicznym łańcucha Markowa - Galin L. Jones (patrz twierdzenie 1). $X_i$ $\pi$

Są też głupie sytuacje, na przykład łańcuch z dwoma stanami, w których jeden jest absorbujący (tj. i W tym przypadku nie ma wahań, a ty uzyskać konwergencję do zdegenerowanego rozkładu normalnego (stałej). $P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

Alex R.
źródło

Nie sądzę, żeby pytał o prawie pewną zbieżność. Myślę, że chce swego rodzaju „tłumaczenia” niektórych CLT na przestrzenie ogólne: prawdopodobnie wyjaśnienie, co oznaczają wymagane założenia w konkretnym kontekście łańcuchów skończonej przestrzeni stanów

Taylor

Dzięki. Czy normalny, ładny, skończony stan łańcucha Markowa w trywialny sposób spełnia warunki znoszenia? Byłbym nawet szczęśliwy, wiedząc, że to tylko dwupaństwowy łańcuch, ale nie jest dla mnie oczywiste, jak to udowodnić.

tom4everitt