Dlaczego estymator OLS współczynnika AR (1) jest tendencyjny?

Próbuję zrozumieć, dlaczego OLS podaje tendencyjny estymator procesu AR (1). Zastanów się W tym modelu naruszona jest ścisła egzogeniczność, tzn. i są skorelowane, ale i są nieskorelowane. Ale jeśli jest to prawdą, to dlaczego poniższe proste wyprowadzenie nie działa?

\begin{aligned} y_{t} & = α + β y_{t - 1} + ϵ_{t}, \\ ϵ_{t} & \overset{i i d}{\sim} N (0, 1) . \end{aligned}

$\begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned}$

y_{t}

$y_t$

ϵ_{t}

$\epsilon_t$

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_t$

\begin{aligned} plim \hat{β} & = \frac{Cov (y_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = \frac{Cov (α + β y_{t - 1} + ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β + \frac{Cov (ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β . \end{aligned}

$\begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}$

time-series least-squares bias autoregressive estimators Florestan
źródło

W Cross Validated pojawiło się kilka powiązanych pytań. Możesz skorzystać z ich wyszukiwania.

Richard Hardy

Widziałem ich, ale tak naprawdę mi nie pomogły. Znalazłem dowód i symulacje, które pokazują ten wynik. Interesuje mnie to, co jest nie tak z powyższym rozumowaniem.

Florestan

Kiedy używasz

plim

$\text{plim}$ , czy nie

spójności, a nie (nie) stronniczości? W przypadku (nie) stronniczości powinieneś używać oczekiwań.

Richard Hardy

Masz całkowitą rację, to może rozwiązać zagadkę. Więc jeśli powyższe równanie nie zachowuje się bez pionu, nie przeczyłoby to tendencyjności OLS w małych próbkach i pokazywałoby spójność OLS w tym samym czasie. Chociaż jestem trochę niepewny: czy ta kowariancja w stosunku do formuły wariancji naprawdę odnosi się tylko do pionu, a nie do oczekiwań? Wielkie dzięki już!

Florestan,

Sam estymator OLS nie obejmuje żadnych , powinieneś tylko spojrzeć na oczekiwania w skończonych próbkach.

plim

$\text{plim}$

Richard Hardy

Odpowiedzi:

Jak zasadniczo omówiono w komentarzach, bezstronność jest skończoną próbką, a gdyby ją utrzymywał, wyrażałaby się jako

E (\hat{β}) = β

$E (\hat \beta ) = \beta$

(gdzie oczekiwana wartość jest pierwszym momentem rozkładu próby skończonej)

podczas gdy spójność jest cechą asymptotyczną wyrażoną jako

plim \hat{β} = β

$\text{plim} \hat \beta = \beta$

PO pokazuje, że chociaż OLS w tym kontekście jest stronniczy, nadal jest spójny.

E (\hat{β}) \neq β but plim \hat{β} = β

$E (\hat \beta ) \neq \beta\;\;\; \text{but}\;\;\; \text{plim} \hat \beta = \beta$

Tutaj nie ma sprzeczności.

Alecos Papadopoulos
źródło

@Alecos ładnie wyjaśnia, dlaczego poprawne podanie i bezstronność nie są takie same. Jeśli chodzi o podstawowy powód, dla którego estymator nie jest bezstronny, pamiętaj, że bezstronność estymatora wymaga, aby wszystkie terminy błędów były średnie niezależne od wszystkich wartości regresora, . $E(\epsilon|X)=0$

W niniejszym przypadku macierz regresora składa się z wartości , tak więc - patrz komentarz mpiktas - warunek przekłada się na dla wszystkich . $y_1,\ldots,y_{T-1}$ $E(\epsilon_s|y_1,\ldots,y_{T-1})=0$ $s=2,\ldots,T$

Mamy tutaj

y_{t} = β y_{t - 1} + ϵ_{t},

$\begin{equation*} y_{t}=\beta y_{t-1}+\epsilon _{t}, \end{equation*}$ Nawet przy założeniu mamy, że Ale jest również regresorem dla przyszłych wartości w modelu AR, ponieważ .

E (ϵ_{t} y_{t - 1}) = 0

$E(\epsilon_{t}y_{t-1})=0$

E (ϵ_{t} y_{t}) = E (ϵ_{t} (β y_{t - 1} + ϵ_{t})) = E (ϵ_{t}^{2}) \neq 0.

$\begin{equation*} E(\epsilon_ty_{t})=E(\epsilon_t(\beta y_{t-1}+\epsilon _{t}))=E(\epsilon _{t}^{2})\neq 0. \end{equation*}$

y_{t}

$y_t$

y_{t + 1} = β y_{t} + ϵ_{t + 1}

$y_{t+1}=\beta y_{t}+\epsilon_{t+1}$

Christoph Hanck
źródło

Dodałbym wyjaśnienie, że w tym przypadku tłumaczy się na dla każdego . Następnie dalsza dyskusja staje się nieco jaśniejsza.

E (ε | X)

$E(\varepsilon | X)$

E (ε_{s} | y_{1}, . . ., y_{T})

$E(\varepsilon_s|y_{1},...,y_T)$

s

$s$

mpiktas,

dobra uwaga, dokonałem edycji

Christoph Hanck

Rozwijając dwie dobre odpowiedzi. Zapisz estymator OLS:

\hat{β} = β + \frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}

$\hat\beta =\beta + \frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}$

Potrzebujemy obiektywności

E [\frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}] = 0.

$E\left[\frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}\right]=0.$

Ale do tego potrzebujemy dla każdego . W przypadku modelu AR (1) najwyraźniej zawodzi, ponieważ jest powiązany z przyszłymi wartościami . $E(\varepsilon_t|y_{1},...,y_{T-1})=0,$ $t$ $\varepsilon_t$ $y_{t},y_{t+1},...,y_{T}$

mpiktas
źródło

Żeby sprawdzić, czy dobrze to zrozumiałem: problemem nie jest licznik, ponieważ każdy t i są nieskorelowane. Problemem jest mianownik, który ma wyższe t, tak że istnieje korelacja między licznikiem a mianownikiem, tak że nie mogę przyjąć oczekiwań w ramach sumy licznika (pod ścisłą egzogenicznością mógłbym to zrobić ?!). Czy to poprawna intuicja matematyczna?

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_{t}$

Florestan,

Tak, to właściwa intuicja. Należy pamiętać, że ścisła egzogeniczność nie jest w tym przypadku możliwa, ale dla bezstronności wymagana jest ścisła egzogeniczność.

mpiktas