Informacje Fishera w modelu hierarchicznym

20

Biorąc pod uwagę następujący hierarchicznego modelu

XN(μ,1),
a, w którym jest normalny. Czy istnieje sposób na uzyskanie dokładnego wyrażenia dla informacji Fishera o krańcowym rozkładzie danego . To znaczy, jaka jest informacja Fishera dla: Mogę uzyskać wyrażenie dla rozkładu brzeżnego danego , ale różnicowania wrt
μL.zaplzadomi(0,do)
N(,)Xc
p(x|c)=p(x|μ)p(μ|c)dμ
Xcca wtedy przyjmowanie oczekiwań wydaje się bardzo trudne. Czy brakuje mi czegoś oczywistego? Każda pomoc będzie mile widziana.
emakaliczny
źródło
Sam spróbowałem, ale to przekracza moje możliwości. Funkcje wartości bezwzględnej psują wszystko! W zasadzie utkniesz w metodach numerycznych.
probabilityislogic
3
@ prawdopodobieństwo Prawdopodobieństwo na całkę można uzyskać po prostu dzieląc całkę na regiony i μ < 0 ; nie są wymagane żadne wartości bezwzględne. Ale wynikiem jest niechlujna funkcja racjonalna funkcji x , e x p ( - x 2 ) i błędów, a zatem jest mało prawdopodobne, że będzie ona możliwa do zintegrowania w postaci zamkniętej. μ0μ<0xexp(x2)
whuber
1
@ whuber - to miałem na myśli przez „beznadziejny”. Nie chodzi o to, że całka jest niemożliwa, ale informacja o rybaku jest niemożliwa. Ponieważ musisz wziąć wartość oczekiwaną ponad stosunku dwóch tych całekX
prawdopodobieństwo
1
Dolna granica dla informacji Fishera w tym przypadku wynosi . Czy można uzyskać mocniejszą górną część związaną z informacją Fishera niż ogólna 1 + 1 / c 2 ? 1/(1+2c2)1+1/c2
emakalic
Podczas gdy rozwiązanie analityczne stanowiłoby wyzwanie pod względem podatności na człowieka (poza dyscypliną matematyki), czy istnieje wrażliwość na przybliżone rozwiązanie obliczeniowe? Można wykonać stochastyczną symulację, a następnie przyjrzeć się przybliżeniom dopasowania.
EngrStudent - Przywróć Monikę

Odpowiedzi:

2

Dla podanego modelu hierarchicznego nie ma wyrażenia analitycznego o zamkniętej formie dla informacji Fishera. W praktyce informacje Fishera można obliczać tylko analitycznie dla wykładniczych rozkładów rodzin. W przypadku rodzin wykładniczych prawdopodobieństwo logarytmiczne jest liniowe w wystarczających statystykach, a wystarczające statystyki mają znane oczekiwania. W przypadku innych dystrybucji prawdopodobieństwo dziennika nie upraszcza się w ten sposób. Ani rozkład Laplace'a, ani model hierarchiczny nie są wykładniczymi rozkładami rodzin, więc rozwiązanie analityczne będzie niemożliwe.

Gordon Smyth
źródło
0

Dwie normalne i Laplace pochodzą z rodziny wykładniczej. Jeśli możesz napisać rozkład w postaci wykładniczej, to macierz informacji Fishera jest drugim gradientem log-normalizatora rodziny wykładniczej.

A.Yazdiha
źródło
12exp(|xμ|)