Porównanie estymatorów Bayesa

1. Rozważmy kwadratową stratę , z podanym wcześniej gdzie . Niech prawdopodobieństwo. Znajdź estymator Bayesa .$L(\theta,\delta)=(\theta-\delta)^2$$\pi(\theta)$$\pi(\theta)\sim U(0,1/2)$$f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$$\delta^\pi$

2. Rozważ ważoną stratę kwadratową gdzie z wcześniejszym . Niech będzie prawdopodobieństwem. Znajdź estymator Bayesa .$L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2$$w(\theta)=\mathbb{I}_{(-\infty,1/2)}$$\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)$$f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$$\delta^\pi_1$

3. Porównaj i$\delta^\pi$$\delta^\pi_1$

Najpierw zauważyłem, że , i założyłem, że takie jest prawdopodobieństwo, w przeciwnym razie nie dostanę żadnego późniejszego, a następnie więc estymatorem Bayesa w odniesieniu do straty kwadratowej jest $f(x|\theta)\sim Beta(\theta,1)$

$$\pi(\theta|x)\propto f(x|\theta)\pi(\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}*2\mathbb{I}_{(0,1/2)}(\theta)\sim Beta(\theta,1)$$ $$\mathbb{E}[\pi(\theta|x)]=\frac{\theta}{\theta+1}$$

Patrzę w książce The Bayesian Choice i istnieje twierdzenie o estymatorze Bayesa związane z ważoną stratą kwadratową i jest ono podane przez

$$\delta^\pi(x)=\frac{\mathbb{E}^\pi[w(\theta)\theta|x]}{\mathbb{E}^\pi[w(\theta)|x]}$$

Czy ktoś może mi wyjaśnić, jak to obliczyć?

Próbowałem:

$$\delta^\pi(x)=\frac{\frac{\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x|\theta)\pi(\theta)d\theta}}{\frac{\int f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x\theta)\pi(\theta)d\theta}}$$

Wiem, że wsparcie to , ale kiedy próbowałem zintegrować z licznikiem$[0,\frac{1}{2}]$

$$\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta=\int_0^\frac{1}{2}\theta\theta x^{\theta-1}d\theta=\frac{1}{x}\int_0^\frac{1}{2}\theta^2 x^\theta d\theta$$

Nie mam dobrych wyników.

Po pierwsze, zwróć uwagę, że poprawiłem pierwotne sformułowanie pytania względem funkcji wskaźnika w twoich definicjach prawdopodobieństwa, ponieważ muszą to być funkcje not . Stąd prawdopodobieństwo jest który wyraźnie integruje się z jednym:$x$$\theta$

$$f(x)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x)$$ $$\int_0^1 \theta x^{\theta-1}\text{d}x = 1$$

Po drugie, tylna in nie jest funkcją Beta, ponieważ jak wskazuje Greenparker Z powodu ograniczenia na wartościach nie jest to również rozkład gamma, ale obcięcie rozkładu gamma.$\theta$

$$\pi(\theta|x)\propto\, \mathbb{I}_{[0,1/2]}(\theta)\theta x^{\theta-1}\propto \mathbb{I}_{[0,1/2]}(\theta)\,\theta \exp\{\log(x)\theta\}$$ $\theta$

Dlatego estymator Bayesa jest późniejszym oczekiwaniem które mogą wydawać się wymagać użycia niekompletnej funkcji Gamma, ale które można uzyskać w postaci zamkniętej przez integrację przez część: od

$$\begin{align*}\mathbb{E}[\theta|x] &= \int_0^{1/2} \theta\times\theta \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\&= \int_0^{1/2} \theta^2 \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\\end{align*}$$ $$\int_0^{1/2} \theta^k \exp\{-\alpha\theta\}\text{d}\theta = \frac{-1}{\alpha}\left[\theta^k \exp\{-\alpha\theta\}\right]_0^{1/2} + \frac{k}{\alpha}\int_0^{1/2} \theta^{k-1} \exp\{-\alpha\theta\}\text{d}\theta$$ $$\int_0^{1/2} \exp\{-\alpha\theta\}\text{d}\theta = \frac{1-\exp\{-\alpha/2\}}{\alpha}$$

Wreszcie, jak wskazano w mojej książce , minimalizacja w jest równoważna minimalizacji w co samo w sobie jest równoważne zminimalizowaniu w co oznacza zastąpienie pierwotnego przeora nowym wcześniejszym który musi zostać renormalizowany do gęstości, czyli $\delta$

$$\int w(\theta)(\theta-\delta)^2 \pi(\theta|x) \text{d}\theta$$ $\delta$ $$\int w(\theta)(\theta-\delta)^2 \pi(\theta)f(x|\theta) \text{d}\theta$$ $\delta$ $$\int (\theta-\delta)^2 w(\theta)\pi(\theta)f(x|\theta) \text{d}\theta$$ $\pi$$w(\theta)\pi(\theta)$ $$\pi_1(\theta)=w(\theta)\pi(\theta) \Big/\int w(\theta)\pi(\theta)\text{d}\theta$$

Twoja odpowiedź na część kwadratu utraty błędu jest nieprawidłowa.

$$\pi(\theta|x) \propto f(x|\theta) \pi(\theta) = 2\theta x^{\theta-1}I_{(0,1/2)}(\theta).$$

Jest to rozkład w , a nie w , a zmienna losowa z tyłu to . Więc twoja odpowiedź jest niepoprawna, a prawidłowa odpowiedź będzie drugim środkiem tego rozkładu.$Beta(\theta,1)$$x$$\theta$$\theta$

W drugiej części

(Pierwszą funkcją funkcji ważonej straty jest ale ją . Przełączam notację z powrotem na .)$\pi_1$$\pi$$\pi_1$

Niech , gdzie jest stałą normalizującą. Musisz obliczyć$\pi'(\theta) = cw(\theta) \pi_1(\theta)$$c$

$$\begin{align*} \delta^{\pi_1}(x) & = \dfrac{E^{\pi_1}[w(\theta) \theta |x ]}{E^{\pi_1}[w(\theta|x)]}\\ & = \dfrac{\int w(\theta) \theta f(x|\theta) \pi_1(\theta)\, d\theta}{\int w(\theta) f(x|\theta)\pi_1(\theta)\, d\theta}\\ & = \dfrac{\int \theta f(x|\theta) \pi'(\theta) \,d\theta}{\int f(x|\theta) \pi'(\theta) \, d\theta}\\ & = E^{\pi'}[\theta|x] \end{align*}$$

Zatem dla ważonej funkcji utraty najmniejszych kwadratów twierdzenie mówi, że oszacowanie Bayesa jest średnią tylną w odniesieniu do innego wcześniejszego. Wcześniejsze jest

$$\pi'(\theta) \propto w(\theta) \pi_1(\theta).$$

Stała normalizująca to .$\int_{\theta} w(\theta) \pi(\theta) d\theta = E_{\pi_1}[w(\theta)]$

$$\begin{align*} E_{\pi_1}[w(\theta)] & = \int_{0}^{1/2} I_{0,1}(\theta) d(\theta) = \frac{1}{2}. \end{align*}$$

Więc wcześniej jest . To ten sam czas, który miałeś w pierwszym pytaniu.$\pi'(\theta) = 2I_{(0,1/2)}(\theta)$

Zatem odpowiedź na scenariusze (cokolwiek to będzie) będzie taka sama. Możesz znaleźć całkę tutaj . Chociaż może być wystarczające, aby poprawić formę odpowiedzi, a nie uzupełnić całkę.