Miary podobieństwa lub odległości między dwiema macierzami kowariancji

28

Czy są jakieś miary podobieństwa lub odległości między dwiema symetrycznymi macierzami kowariancji (obie o tych samych wymiarach)?

Mam tu na myśli analogie do dywergencji KL dwóch rozkładów prawdopodobieństwa lub odległości euklidesowej między wektorami, z wyjątkiem zastosowanych do macierzy. Wyobrażam sobie, że byłoby całkiem sporo pomiarów podobieństwa.

Idealnie chciałbym również przetestować hipotezę zerową, że dwie macierze kowariancji są identyczne.

distributions hypothesis-testing covariance-matrix kullback-leibler information-theory Ram Ahluwalia
źródło

3

odpowiedzi na to pytanie: quant.stackexchange.com/q/121/108 mogą być przydatne.

shabbychef

2

doskonałe pytanie i odpowiedź na link - dzięki - tak właśnie tam jechałem :)

Ram Ahluwalia

2

Pytanie pokrewne: Wykres diagnostyczny do oceny jednorodności macierzy wariancji-kowariancji . Powiązany dokument: Prosta procedura porównywania macierzy kowariancji .

ameba mówi Przywróć Monikę

21

$\| A-B \|_p$ $\sqrt{\sum_{i,j} (a_{ij}-b_{ij})^2}$ $L_2$ $(A-B)^2$ $\frac12 [ \mbox{tr} (A^{-1}B) - \mbox{ln}( |B|/|A| ) ]$

Edycja: jeśli jedna z macierzy jest macierzą implikowaną przez model, a druga to przykładowa macierz kowariancji, wówczas oczywiście można utworzyć test współczynnika prawdopodobieństwa między nimi. Mój osobisty ulubiony zbiór takich testów dla prostych struktur znajduje się w Rencher (2002) Methods of Multivariate Analysis . Bardziej zaawansowane przypadki są uwzględnione w modelowaniu struktury kowariancji, na którym rozsądnym punktem wyjścia są równania strukturalne Bollena (1989) z ukrytymi zmiennymi .

StasK
źródło

mam problem z : nie daje tej samej wartości, jeśli permutujesz i (rzeczywista odległość powinna być symetryczna).

1 / 2 (tr (A^{- 1} B) - \log (| B | / | A |))

$1/2(\verb+tr+(A^{-1}B)-\log(|B|/|A|))$

A

$A$

B

$B$

user603,

mam problem z : to nie jest afiniczne ekwiwariantne (jeśli obrócisz matryce, tam zmiany odległości!). Ponadto należy w jakiś sposób skalować macierze (mogą być mierzone w bardzo różnych jednostkach), naturalne jest również wymaganie, aby odległość między dwiema macierzami kowariancji była taka sama jak odległość między odpowiednimi macierzami korelacji: więc sugeruję .

(A - B)^{2}

$(A-B)^2$

(A det (A)^{- 1 / p} - B det (B)^{- 1 / p})^{2}

$(A\det(A)^{-1/p}-B\det(B)^{-1/p})^2$

user603,

2

Po pierwsze, KL nie jest prawdziwym dystansem i to dobrze znany fakt. Po drugie, jeśli macierze są mierzone w różnych jednostkach, nie mogą być równe.

StasK

Czy odległość KL jest podobna do współczynnika wiarygodności, czy są ze sobą powiązane?

hashmuke

7

Oznaczają i twoi matryce zarówno od wymiarów . $\varSigma_1$ $\varSigma_2$ $p$

Numer Cond: gdzie ( ) to największa (najmniejsza) wartość własna , gdzie jest zdefiniowany jako: $\log(\lambda_1)-\log(\lambda_p)$ $\lambda_1$ $\lambda_p$ $\varSigma^*$ $\varSigma^*$ $\varSigma^*:=\varSigma_1^{-1/2}\varSigma_2\varSigma_1^{-1/2}$

Edycja: Zredagowałem drugą z dwóch propozycji. Myślę, że źle zrozumiałem pytanie. Propozycja oparta na numerach warunków jest często używana w solidnych statystykach do oceny jakości dopasowania. Stare źródło, które mogłem znaleźć, to:

Yohai, VJ and Maronna, RA (1990). Maksymalne odchylenie silnych kowariancji. Komunikacja w statystyce - teoria i metody, 19, 3925–2933.

Pierwotnie uwzględniłem miarę współczynnika Det:

Współczynnik : gdzie . $\log(\det(\varSigma^{**})/\sqrt{\det(\varSigma_2)*\det(\varSigma_1)})$ $\varSigma^{**}=(\varSigma_1+\varSigma_2)/2$

która byłaby odległością Bhattacharyya między dwoma rozkładami Gaussa mającymi ten sam wektor lokalizacji. Musiałem pierwotnie odczytać pytanie odnoszące się do sytuacji, w której dwie kowariancje pochodziły z próbek z populacji, które zakładają, że mają równe środki.

użytkownik603
źródło

7

Miarą wprowadzoną przez Herdin (2005) Correlation Matrix Distance, znaczącą miarą oceny niestacjonarnych kanałów MIMO jest gdzie normą jest norma Frobenius.

d = 1 - \frac{tr (R_{1} \cdot R_{2})}{‖ R_{1} ‖ \cdot ‖ R_{2} ‖},

$d = 1 - \frac{\text{tr}(R_1 \cdot R_2)}{\|R_1\| \cdot \|R_2\|},$

davidc
źródło

+1. Bardzo dziękuję za tę odpowiedź, była dla mnie bardzo pomocna.

ameba mówi Przywróć Monikę

1

To jeden minus podobieństwo do cosinusa, prawda?

Firebug,

4

Odległość macierzy kowariancji służy do śledzenia obiektów w Computer Vision.

Aktualnie stosowana metryka została opisana w artykule: „Metryka dla macierzy kowariancji” autorstwa Förstnera i Moonena.

Andres Romero
źródło

Miary podobieństwa lub odległości między dwiema macierzami kowariancji

Odpowiedzi: