Obserwowano informacje Fishera w trakcie transformacji

Z „W całym prawdopodobieństwie: modelowanie statystyczne i wnioskowanie przy użyciu prawdopodobieństwa” Y. Pawitana, prawdopodobieństwo ponownej parametryzacji jest zdefiniowane jako więc jeśli jest jeden do jednego, to (str. 45). Próbuję pokazać ćwiczenie 2.20, które stwierdza, że jeśli jest skalarem (i zakładam, że ma być również funkcją skalarną), to gdzie $\theta\mapsto g(\theta)=\psi$

L^{*} (ψ) = max_{{θ : g (θ) = ψ}} L (θ)

$L^*(\psi)=\max_{\{\theta:g(\theta)=\psi\}} L(\theta)$

g

$g$

L^{*} (ψ) = L (g^{- 1} (ψ))

$L^*(\psi)=L(g^{-1}(\psi))$

θ

$\theta$

g

$g$

I^{*} (g (\hat{θ})) = I (\hat{θ}) {| \frac{\partial g (\hat{θ})}{\partial \hat{θ}} |}^{- 2},

$I^*(g(\hat{\theta}))=I(\hat{\theta})\left|\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}\right|^{-2},$

I (θ) = - \frac{\partial^{2}}{\partial θ^{2}} l (θ)

$I(\theta)=-\frac{\partial^2}{\partial\theta^2} l(\theta)$ to zaobserwowana informacja Fishera, a

l (θ) = \log L (θ)

$l(\theta)=\log L(\theta)$ .

Jeśli $g$ jest jeden do jednego, jest to proste przy użyciu reguły łańcuchowej i zasady niezmienniczości. Zastanawiam się tylko nad kilkoma rzeczami:

Dlaczego nalega na napisanie wartości bezwzględnej? Można to pominąć, prawda?
Przez $\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}$ ma na funkcję $\frac{\partial g(\theta)}{\partial \theta}$ oceniany na $\theta=\hat{\theta}$ , prawda? Jeśli tak jest, to czy nie jest to zły wybór notacji? Uważam, że zwykłym skrótem dla tego świata jest stronny $\frac{\partial g(\hat{\theta})}{\partial \theta}$ .
Jak to pokazano, gdy $g$ niekoniecznie jest jeden do jednego?

mathematical-statistics inference likelihood fisher-information Stefan Hansen
źródło

Wartość bezwzględna jest niepotrzebna. To może być tylko literówka.
Masz rację. Jeszcze lepszym zapisem byłby $\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}$ .
To ogólnie nie obowiązuje. Napraw niektóre i zdefiniuj przez . RH byłby niezdefiniowany, ponieważ pochodna wynosi zero dla każdego . $\psi_0$ $g:\mathbb{R}\to\mathbb{R}$ $g(\theta)=\psi_0$ $\theta$

Szkic zwykłego przypadku:

Dla gładkiego jeden do jednego pomocą . Ponieważ , mamy Dlatego też $g$ $\psi=g(\theta)$ $d/d\psi = d\theta/d\psi\cdot d/d\theta$

\begin{aligned} I^{*} (ψ) & = - \frac{d^{2} L^{*} (ψ)}{d ψ^{2}} = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d ψ}) = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d θ} \frac{d θ}{d ψ}) \\ = - \frac{d^{2} L^{*} (ψ)}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (ψ)}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} . \end{aligned}

$\begin{align} I^*(\psi) &= -\frac{d^2L^*(\psi)}{d\psi^2} = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\psi} \right) = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\theta} \frac{d\theta}{d\psi}\right) \\ &= - \frac{d^2L^*(\psi)}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(\psi)}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi}\, . \end{align}$

\begin{aligned} {ja}^{*} (sol (\hat{θ})) & = - \frac{{re}^{2)} {L.}^{*} (sol (\hat{θ}))}{re θ^{2)}} {(\frac{re θ}{re ψ})}^{2)} - \frac{re {L.}^{*} (sol (\hat{θ}))}{re θ} \frac{{re}^{2)} θ}{re ψ^{2)}} \frac{re θ}{re ψ} \\ = - \frac{{re}^{2)} L. ({sol}^{- 1} (sol (\hat{θ})))}{re θ^{2)}} {(\frac{re sol (θ)}{re θ} |_{θ = {sol}^{- 1} (sol (\hat{θ}))})}^{- 2)} - \frac{re L. ({sol}^{- 1} (sol (\hat{θ})))}{re θ} \frac{{re}^{2)} θ}{re ψ^{2)}} \frac{re θ}{re ψ} \\ = ja (\hat{θ}) {(\frac{re sol (θ)}{re θ} |_{θ = \hat{θ}})}^{- 2)}, \end{aligned}

$\begin{align} I^*(g(\hat{\theta})) &= -\frac{d^2L^*(g(\hat{\theta}))}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(g(\hat{\theta}))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= -\frac{d^2L(g^{-1}(g(\hat{\theta})))}{d\theta^2} \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=g^{-1}(g(\hat{\theta}))}\right)^{-2} - \frac{dL(g^{-1}(g(\hat{\theta})))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= I(\hat{\theta}) \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}\right)^{-2} \, , \end{align}$ w którym użyliśmy .

d L (g^{- 1} (g (\hat{θ}))) / d θ = d L (\hat{θ}) / d θ = 0

$dL(g^{-1}(g(\hat{\theta})))/d\theta=dL(\hat{\theta})/d\theta=0$

Zen
źródło

Dziękuję za zajęcie się wszystkimi moimi wątpliwościami i za ten prosty kontrprzykład ze stałym . Twój szkic zwykłego przypadku jest podobny do tego, co zrobiłem, więc wszystko jest dobre. Dzięki.

g

$g$

Stefan Hansen

Obserwowano informacje Fishera w trakcie transformacji

Odpowiedzi: