Jakie są przykładowe zastosowania prawdopodobieństwa empirycznego?

Słyszałem o prawdopodobieństwie empirycznym Owena, ale do niedawna nie zwracałem na to uwagi, dopóki nie natknąłem się na nie w interesującej pracy ( Mengersen i in. 2012 ).

W moich wysiłków, aby zrozumieć, jakie zebrała, że prawdopodobieństwo obserwowanego danych jest reprezentowana jako , gdzie ∑ i p i = 1 oraz p i > 0 .

$$L = \prod_i p_i = \prod_i P(X_i=x) = \prod_i P(X_i \le x) - P(X_i \lt x)$$ $\sum_i p_i = 1$$p_i > 0$

Nie udało mi się jednak dokonać mentalnego skoku łączącego tę reprezentację z tym, jak można ją wykorzystać do wnioskowania na temat obserwacji. Być może jestem zbyt zakorzeniony w myśleniu o parametrach modelu prawdopodobieństwa wrt?

Niezależnie od tego szukałem w Google Scholar jakiegoś papieru, w którym istnieje prawdopodobieństwo empiryczne, które pomogłoby mi zinternalizować tę koncepcję ... bezskutecznie. Oczywiście jest książka Art Owena na temat empirycznego prawdopodobieństwa , ale Google Books pomija wszystkie pyszne kawałki i wciąż jestem powolny w procesie otrzymywania pożyczki międzybibliotecznej.

W międzyczasie, czy ktoś może uprzejmie wskazać mi dokumenty i dokumenty, które jasno ilustrują przesłankę prawdopodobieństwa empirycznego i sposób jej wykorzystania? Przykładowy opis samego EL byłby również mile widziany!

Nie mogę wymyślić lepszego miejsca niż książka Owena, aby dowiedzieć się o prawdopodobieństwie empirycznym.

$L = L(p_1, \ldots, p_n)$$x_1, \ldots, x_n$$(p_1, \ldots, p_n)$$n$$1/n$na każdej z obserwacji (zakładając, że wszystkie są różne). Wymiar przestrzeni parametrów rośnie wraz z liczbą obserwacji.

$\mu$$p = (p_1, \ldots, p_n)$

$$\mu(p) = \sum_{i=1}^n x_i p_i,$$ $$L_{\text{prof}}(\mu) = \max \{ L(p) \mid \mu(p) = \mu \}.$$ Następnie możemy obliczyć przedziały ufności w postaci pomocą . Tutaj jest średnią empiryczną, a . Przedziały powinny być po prostu nazywane przedziałami prawdopodobieństwa (profilu), ponieważ z góry nie ma oświadczenia o zasięgu. Wraz ze zmniejszaniem przedziały (tak, są to przedziały) tworzą zagnieżdżoną, rosnącą rodzinę przedziałów ufności. Powiedzmy, że można zastosować teorię asymptotyczną lub pasek startowy do kalibracji aby osiągnąć 95% pokrycia. $$I_r = \{ \mu \mid L_{\text{prof}}(\mu) \geq r L_{\text{prof}}(\bar{x}) \}$$ $r \in (0,1)$$\bar{x}$$L_{\text{prof}}(\bar{x}) = n^{-n}$$I_r$$r$$I_r$$r$

Książka Owena szczegółowo to omawia i zapewnia rozszerzenie bardziej skomplikowanych problemów statystycznych oraz innych interesujących parametrów.

W ekonometrii wiele zastosowanych artykułów zaczyna się od założenia, że gdzie jest wektorem danych, jest znanym układem równań , a jest nieznanym parametrem . Funkcja pochodzi z modelu ekonomicznego. Celem jest oszacowanie .

$$E[g(X,\theta)] = 0$$ $X$$g$$q$$\theta \in \Theta \subseteq \mathbb{R}^p$$q \geq p$$g$$\theta$

Tradycyjne podejście, w ekonometrii, do szacowania i wnioskowania na temat polega na zastosowaniu ogólnej metody momentów: gdzie jest dodatnią, określoną macierzą ważenia, a Dostawcy prawdopodobieństwa empirycznego stanowią alternatywę dla GMM. Chodzi o to, aby wymusić warunek momentu jako ograniczenie przy maksymalizacji prawdopodobieństwa nieparametrycznego. Najpierw napraw a . Następnie rozwiąż zastrzeżeniem $\theta$

$$\hat{\theta}_\text{GMM} = \text{argmin}_{\theta \in \Theta} \; \bar{g}_n(\theta) 'W \bar{g}_n(\theta)$$ $W$ $$\bar{g}_n(\theta) := \frac{1}{n} \sum_{i=1}^n g(X_i,\theta).$$ $\theta$ $$L(\theta) = \max_{p_1,\ldots,p_n} \; \prod_{i=1}^n p_i$$ $$\sum_{i=1}^n p_i=1, \qquad p_i \geq 0, \qquad \sum_{i=1}^n p_i \cdot g(X_i,\theta) = 0.$$ To jest `wewnętrzna pętla „. Następnie zmaksymalizuj ponad : Wykazano, że takie podejście ma lepsze właściwości wyższego rzędu niż GMM (patrz Newey i Smith 2004, Econometrica ), co jest jednym z powodów, dla których jest ono lepsze niż GMM. Dodatkowe informacje można znaleźć w notatkach i wykładzie Imbens i Wooldridge tutaj (wykład 15).$\theta$ $$\hat{\theta}_\text{EL} = \text{argmax}_{\theta \in \Theta} \; \log L(\theta).$$

Istnieje oczywiście wiele innych powodów, dla których EL zwrócił uwagę w ekonometrii, ale mam nadzieję, że jest to przydatne miejsce początkowe. Modele równości momentów są bardzo powszechne w ekonomii empirycznej.

W analizie przeżycia krzywa Kaplana-Meiera jest najbardziej znanym nieparametrycznym estymatorem funkcji przeżycia , gdzie oznacza losową zmienną czasu do zdarzenia. Zasadniczo jest uogólnieniem funkcji rozkładu empirycznego, która umożliwia cenzurę. Można go wyprowadzić heurystycznie, jak podano w większości praktycznych podręczników. Ale można go również formalnie wyprowadzić jako estymator największego prawdopodobieństwa (empiryczny). Oto więcej szczegółów .$S(t) = Pr(T > t)$$T$$\hat{S}$