Muszę „nauczyć się” rozkładu dwuwymiarowego gaussa z kilkoma próbkami, ale dobrą hipotezą na temat wcześniejszego rozkładu, dlatego chciałbym zastosować podejście bayesowskie.
Zdefiniowałem mój wcześniejszy:
A mój rozkład wynika z hipotezy
Teraz wiem dzięki tutaj , aby oszacować średnią z danych
Potrafię obliczyć:
Teraz pojawia się pytanie, może się mylę, ale wydaje mi się, że jest tylko macierzą kowariancji dla parametru szacunkowego μ n , a nie szacunkową kowariancją moich danych. Chciałbym też obliczyć
w celu uzyskania w pełni określonej dystrybucji wyciągniętej z moich danych.
czy to możliwe? Czy to już rozwiązane przez obliczenia i to właśnie wyraża się w niewłaściwy sposób powyższego wzoru (albo ja po prostu misentrepreting go)? Referencje będą mile widziane. Wielkie dzięki.
EDYTOWAĆ
Z komentarzy wynika, że moje podejście było „złe”, w tym sensie, że zakładałem stałą kowariancję określoną przez . Muszę też nadać temu pierwszeństwo, P ( Σ ) , ale nie wiem, jakiej dystrybucji powinienem użyć, a następnie jaka jest procedura jej aktualizacji.
źródło
Odpowiedzi:
Możesz wykonać aktualizację bayesowską dla struktury kowariancji w takim samym duchu, jak zaktualizowałeś średnią. Pierwszym sprzężonym dla macierzy kowariancji normalnej wielowymiarowej jest rozkład odwrotny-Wishart, więc warto zacząć od tego,
Następnie, gdy otrzymasz próbkę o długości n , możesz obliczyć szacunkową kowariancję próbki Σ X = 1X n ΣX=1n(X−μ)⊤(X−μ)
Można to następnie wykorzystać do zaktualizowania oszacowania macierzy kowariancji
Możesz użyć tej średniej jako oszacowania punktowego dla kowariancji (Estymator średniej tylnej)
lub możesz użyć trybu (Maximum A Posteriori Estimator)
źródło
Ok, znalazłem prawdziwe rozwiązanie mojego problemu. Zamieszczam je, nawet jeśli wybrano prawidłową odpowiedź na moje (niewłaściwe) pytanie.
Zasadniczo moje pytanie wyjaśnia, jak oszacować średnią znając kowariancję, i odpowiedź, jak oszacować kowariancję znając średnią. Ale moim rzeczywistym problemem było oszacowanie przy nieznanych obu parametrach.
Znalazłem odpowiedź na Wikipedii z wyjaśnieniem pochodnej tutaj . Sprzężony przed normalnym wielowymiarowym normalnym jest normalna-odwrotna-Wishart, który jest w zasadzie rozkładem na normalne wielowymiarowe.
Wymagane są wcześniejsze parametryμ0 zdefiniować średnią, Ψ aby zdefiniować kowariancję i dwie wartości skalarne κ0 i ν0 Powiedziałbym, że określ, jak jesteśmy pewni szacowania odpowiednio pierwszych dwóch parametrów.
Zaktualizowany rozkład po obserwacjin próbki a p -variate Normal ma postać
where
so my desired estimated parameters are
źródło