Mamy wielowymiarowy normalny wektor . Rozważ podzielenie i na
z podobną partycją w
Następnie , rozkład warunkowy pierwszej partycji, biorąc pod uwagę drugą, to
, ze średnią
i macierz kowariancji
Właściwie te wyniki są również dostępne w Wikipedii, ale nie mam pojęcia, jak powstają i . Te wyniki są kluczowe, ponieważ są ważną formułą statystyczną do wyprowadzania filtrów Kalmana . Czy ktoś dostarczy mi etapy wyprowadzania i ? Dziękuję Ci bardzo!
normal-distribution
conditional-probability
Latająca świnia
źródło
źródło
Odpowiedzi:
Możesz to udowodnić, obliczając gęstość warunkową za pomocą brutalnej siły, jak w linku Procrastinator (+1) w komentarzach. Ale istnieje również twierdzenie, które mówi, że wszystkie rozkłady warunkowe wielowymiarowego rozkładu normalnego są normalne. Dlatego pozostaje tylko obliczyć średni wektor i macierz kowariancji. Pamiętam, że wyprowadziliśmy to w klasie szeregów czasowych w college'u, sprytnie definiując trzecią zmienną i używając jej właściwości do uzyskania wyniku prostszego niż rozwiązanie brutalnej siły w łączu (pod warunkiem, że czujesz się komfortowo z algebrą macierzy). Wychodzę z pamięci, ale było to mniej więcej tak:
Niech będzie pierwszą partycją, a drugą. Teraz zdefiniuj gdzie . Teraz możemy pisaćx1 x2 z=x1+Ax2 A=−Σ12Σ−122
Dlatego i są nieskorelowane, a ponieważ są wspólnie normalne, są niezależne . Teraz wyraźnie , dlatego wynika z tego, żez x2 E(z)=μ1+Aμ2
co dowodzi pierwszej części. W przypadku macierzy kowariancji należy to zauważyć
Teraz prawie skończyliśmy:
co dowodzi drugiej części.
Uwaga: Dla osób niezbyt dobrze zaznajomionych z używaną tutaj algebrą macierzy jest to doskonały zasób .
Edycja: użyta tutaj jedna właściwość, której nie ma w macierzowej książce kucharskiej (dobry chwyt @FlyingPig) to właściwość 6 na stronie wikipedii o macierzach kowariancji: to znaczy, że dla dwóch losowych wektorów , Oczywiście w przypadku skalarów ale dla wektorów są one różne, o ile matryce są ułożone inaczej.x,y
źródło
Odpowiedź Makra jest świetna, ale tutaj jest jeszcze prostszy sposób, który nie wymaga użycia żadnego zewnętrznego twierdzenia potwierdzającego rozkład warunkowy. Polega ona na zapisaniu odległości Mahanalobisa w formie, która oddziela zmienną argumentu dla instrukcji warunkowania, a następnie odpowiednio rozkłada gęstość normalną.
Przepisywanie odległości Mahanalobisa dla wektora warunkowego: ta pochodna wykorzystuje formułę inwersji macierzy, która wykorzystuje dopełnienie Schura . Najpierw używamy formuły inwersji blokowej, aby zapisać macierz odwrotności wariancji jako:ΣS=Σ11−Σ12Σ−122Σ21
gdzie:
Za pomocą tej formuły możemy teraz zapisać odległość Mahanalobisa jako:
gdzie:
Zauważ, że ten wynik jest wynikiem ogólnym, który nie zakłada normalności losowych wektorów. Daje to użyteczny sposób ponownego sformułowania odległości Mahanalobisa, tak aby była kwadratową postacią w odniesieniu do tylko jednego wektora w rozkładzie (drugi wchłonięty do średniej macierzy wektora i wariancji).
Wyprowadzenie rozkładu warunkowego: Teraz, gdy mamy powyższą formę odległości Mahanalobisa, reszta jest łatwa. Mamy:
To ustanawia, że rozkład warunkowy jest również normalny wielowymiarowy z określonym wektorem średnich warunkowych i macierzą wariancji warunkowych.
źródło