Czy ktoś może udowodnić następujący związek między wskaźnikiem informacji Fishera a względną entropią (lub dywergencją KL) w czysto matematyczny, rygorystyczny sposób?
gdzie , i jest konwencją sumowania Einsteina.
Znalazłem powyższe na ładnym blogu Johna Baeza, gdzie Vasileios Anagnostopoulos mówi o tym w komentarzach.
Odpowiedzi:
W 1946 r. Geofizyk i statystyki bayesowskie Harold Jeffreys wprowadzili to, co dziś nazywamy rozbieżnością Kullbacka-Leiblera, i odkryli, że dla dwóch dystrybucji, które są „nieskończenie blisko” (miejmy nadzieję, że chłopaki Math SE tego nie widzą ;-) możemy napisać ich rozbieżność Kullbacka-Leiblera jako postać kwadratowa, której współczynniki są podane przez elementy macierzy informacji Fishera. Zinterpretował tę kwadratową formę jako element długości rozmaitości Riemanniana, przy czym informacja Fishera odgrywa rolę metryki Riemanniana. Na podstawie tej geometrii modelu statystycznego wyliczył wcześniejszy Jeffreysa jako miarę naturalnie indukowaną przez metrykę Riemanniana, a miara ta może być interpretowana jako samoistnie jednorodny rozkład na rozmaitości, chociaż generalnie nie jest to miara skończona.
Aby napisać dokładny dowód, musisz dostrzec wszystkie warunki prawidłowości i zadbać o porządek terminów błędów w rozszerzeniach Taylora. Oto krótki szkic argumentu.
Symetryczna rozbieżność Kullbacka-Leiblera między dwoma gęstościamif i g jest zdefiniowana jako
Jeśli mamy rodzinę gęstości sparametryzowaną przezθ=(θ1,…,θk) , to
To jest oryginalny papier:
Jeffreys, H. (1946). Niezmienna forma dla wcześniejszego prawdopodobieństwa w problemach z oszacowaniem. Proc. Royal Soc. z Londynu, seria A, 186, 453–461.
źródło
Dowód zwykłej (niesymetrycznej) dywergencji KL
Odpowiedź Zen wykorzystuje symetryczną dywergencję KL, ale wynik ma również zwykłą formę, ponieważ staje się symetryczny dla nieskończenie bliskich rozkładów.
źródło
You can find a similar relationship (for a one-dimensional parameter) in equation (3) of the following paper
The authors refer to
for a proof of this result.
źródło