Reprezentacja ARMA w przestrzeni stanu (p, q) z Hamiltona

11

r=max(p,q+1)

ytμ=ϕ1(yt1μ)+ϕ2(yt2μ)+...+ϕ3(yt3μ)+ϵt+θ1ϵt1+...+θr1ϵtr+1.

ξt+1=[ϕ1ϕ2ϕr1ϕr1000000010]ξt+[ϵt+100]

oraz równanie obserwacyjne jako:

yt=μ+[1θ1θ2θr1]ξt.

Nie rozumiem, co jest w tym przypadku . Ponieważ w jego reprezentacji AR (p) jest to aw jego reprezentacji MA (1) jest to .ξt[ytμyt1μytp+1μ][ϵtϵt1]

Czy ktoś mógłby mi to wyjaśnić nieco lepiej?

dleal
źródło

Odpowiedzi:

10

Hamilton pokazuje, że jest to poprawne przedstawienie w książce, ale takie podejście może wydawać się nieco sprzeczne z intuicją. Pozwolę sobie zatem najpierw udzielić odpowiedzi na wysokim poziomie, która motywuje jego wybór modelowania, a następnie rozwinąć nieco jego pochodzenie.

Motywacja :

Jak powinno stać się jasne po przeczytaniu rozdziału 13, istnieje wiele sposobów napisania modelu dynamicznego w postaci przestrzeni stanów. Powinniśmy zatem zapytać, dlaczego Hamilton wybrał właśnie tę reprezentację. Powodem jest to, że ta reprezentacja utrzymuje niską wymiarowość wektora stanu. Intuicyjnie pomyślałbyś (a przynajmniej ja), że wektor stanu ARMA ( , ) musi mieć co najmniej wymiar . W końcu, po obserwacji powiedzmy , nie możemy wywnioskować wartości . Pokazuje jednak, że możemy sprytnie zdefiniować reprezentację przestrzeni stanu, pozostawiając wektor stanu wymiaru co najwyżejpqp+qyt1ϵt1r=max{p,q+1}. Utrzymanie niskiego wymiaru stanu może być ważne dla implementacji obliczeniowej. Okazuje się, że jego reprezentacja w przestrzeni stanów oferuje również niezłą interpretację procesu ARMA: stan nieobserwowany to AR ( ), podczas gdy część MA ( ) powstaje z powodu błędu pomiaru.pq

Pochodzenie :

Teraz do wyprowadzenia. Po pierwsze, za pomocą notacji operatora opóźnienia ARMA (p, q) jest zdefiniowana jako: gdzie pozwalamy dla , i dla i pomijamy ponieważ jest co najmniej . Musimy więc tylko wykazać, że jego równania stanu i obserwacji implikują powyższe równanie. Niech wektorem stanu będzie Teraz spójrz na równanie stanu. Możesz sprawdzić, że równania do

(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)ϵt
ϕj=0j>pθj=0j>qθrrq+1
ξt={ξ1,t,ξ2,t,,ξr,t}
2rpo prostu przenieś wpisy do jeden okres do przodu i odrzuć w wektorze stanu w . Pierwsze równanie definiujące jest zatem odpowiednie. Zapisywanie: Ponieważ drugi element jest pierwszym elementem a trzecim elementem jest pierwszy elementξi,tξi1,t+1ξr,tt+1ξi,t+1
ξ1,t+1=ϕ1ξ1,t+ϕ2ξ2,t++ϕrξr,t+ϵt+1
ξtξt1ξtξt2i tak dalej, możemy to przepisać za pomocą notacji operatora opóźnienia i przesunięcia wielomianu opóźnienia na lewą stronę (równanie 13.1.24 w H.): Tak więc stan ukryty jest zgodny z procesem autoregresji. Podobnie równanie obserwacyjne to lub Jak dotąd nie wygląda to jak ARiMR, ale teraz nadchodzi fajna część: pomnóż ostatnie równanie przez :
(1ϕ1LϕrLr)ξ1,t+1=ϵt+1
yt=μ+ξ1,t+θ1ξ2,t++θr1ξr1,t
ytμ=(1+θ1L++θr1Lr1)ξ1,t
(1ϕ1LϕrLr)
(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)(1ϕ1LϕrLr)yt
Ale z równania stanu (opóźnionego o jeden okres) mamy ! Tak więc powyższe jest równoważne z co dokładnie musieliśmy pokazać! Tak więc system obserwacji stanu poprawnie reprezentuje ARMA (p, q). Tak naprawdę parafrazowałem Hamiltona, ale mam nadzieję, że i tak się przyda.(1ϕ1LϕrLr)ξ1,t=ϵt
(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)ϵt
Matthias Schmidtblaicher
źródło
Jednak nie jestem całkowicie sprzedany w interpretacji państwa. Kiedy piszesz pierwszą linię równania przejścia stanu, wydaje się to równaniem sprzecznym z przyjętym modelem. Dziwne jest również to, że zakładasz, że obserwowane dane są jednocześnie ukryte / ukryte.
Taylor
Masz rację, że państwo nie jest w istocie taka sama jak . Dzięki za zwrócenie na to uwagi. Poprawiłem to, teraz powinno być dobrze. Przy okazji mogliśmy zaobserwować zmienne w wektorze stanu, patrz na przykład przykład AR (p). Tam ukrytą zmienną można traktować jako wartość następnego okresu, . ytyt+1
Matthias Schmidtblaicher
Dziękuję Ci! Ale nadal jestem zdezorientowany co do tego, co jest w tej reprezentacji przestrzeni stanu. Nie na przykład jego definicja w równaniu 13.1.15 i 13.1.14 dla procesu AR (p) i MA (1). Moje zamieszanie polega na tym, że jeśli wstawię to do Matlaba, to jakie liczby otrzymam w ? ξξξ
dleal
Mylące jest tutaj to, że modelowanie przestrzeni stanów dotyczy stanu ukrytego, podczas gdy w procesach ARMA nie uważamy zmiennych za ukryte. Reprezentacja przestrzeni stanów i techniki filtrowania (Kalmana) są motywowane przez odfiltrowanie stanu nieobserwowanego. W przypadku procesów ARMA po prostu używamy formułowania modeli przestrzeni stanów, abyśmy mogli oszacować parametry za pomocą filtra Kalmana. Więc nieco arbitralnie definiujemy stan ukryty w 13.1.4 jako obserwację następnego okresu podczas gdy w 13.1.22 stan jest nową zmienną, która nie pojawia się w oryginalnym modelu. yt+1
Matthias Schmidtblaicher
Aby odpowiedzieć na pytanie dotyczące Matlaba: jeśli zaczynasz od ARiMR (p, q), nie jest zmienną pojawiającą się w tym modelu. Jednak reprezentacja przestrzeni stanów w rzeczywistości oferuje inną interpretację ARMA (p, q): stanem ukrytym może być zmienna, którą jesteś zainteresowany, a struktura MA (q) powstaje z powodu błędu pomiaru. Możesz zapisać AR (1) i dodać trochę białego szumu, aby zobaczyć, że powstaje struktura ARMA. ξ
Matthias Schmidtblaicher
8

To jest to samo co powyżej, ale pomyślałem, że udzielę krótszej, bardziej zwięzłej odpowiedzi. Ponownie jest to reprezentacja Hamiltona dla przyczynowego procesu ARMA ( , ), gdzie . Ta liczba będzie wymiarem wektora stanu i jest potrzebna do ustalenia liczby wierszy stan dopasowuje się do liczby kolumn macierzy obserwacji. Oznacza to, że musimy również ustawić współczynniki na zero, gdy indeks jest zbyt duży.pqr=max(p,q+1)r(ξt,ξt1,,ξtr+1)

  1. Równanie obserwacyjne

ϕ(B)(ytμ)=θ(B)ϵt(causality)(ytμ)=ϕ1(B)θ(B)ϵtyt=μ+ϕ1(B)θ(B)ϵtyt=μ+θ(B)ϕ1(B)ϵt(letting ξt=ϕ1(B)ϵt)yt=μ+θ(B)ξt(this is where we need r)yt=μ+[1θ1θ2θr1][ξtξt1ξtr+1]the state vector+0.
  1. Równanie stanu

ξt=ϕ1(B)ϵtϕ(B)ξt=ϵt(1ϕ1BϕrBr)ξt=ϵtξt=ϕ1ξt1++ϕrξtr+ϵt[ξtξt1ξt2ξtr+1]=[ϕ1ϕ2ϕ3ϕr1000010000010][ξt1ξt2ξtr]+[ϵt00].
Taylor
źródło
1
To ostatecznie wyjaśnia, skąd pochodzą te równania stanu. Wydaje mi się, że stwierdzenie tego w ten sposób jest dydaktycznie o wiele lepsze niż podanie tych przypadkowo pojawiających się równań z uwagą, że okazuje się słuszne.
Alex
@CowboyTrader tak, zgadza się. Przynajmniej dla tej reprezentacji ARiMR. Jest kilka innych.
Taylor
@CowboyTrader nie, ale powiedziałbym, że to rozsądne uczucie, ponieważ literatura na temat modeli przestrzeni stanów jest tendencyjna do filtrowania. Istnieją rekurencyjne równania predykcyjne dla liniowych modeli przestrzeni stanu Gaussa, ale filtrowanie jest dodatkowym bonusem.
Taylor
@CowboyTrader zachęcamy do wysłania mi e-maila. Wiem, że nie wszyscy uwielbiają dłuższe dyskusje w komentarzach, więc może to być łatwiejsze.
Taylor
Widzę, że zostało to udowodnione, ale czy mógłbyś pomóc w intuicji? Co to są zmienne stanu, co to jest wektor stanu t = 0?
Frank