PCA, LDA, CCA i PLS

26

W jaki sposób powiązane są PCA, LDA, CCA i PLS? Wszystkie wydają się „widmowe” i algebraiczne liniowe i bardzo dobrze rozumiane (powiedzmy, że ponad 50 lat teorii wokół nich zbudowanych). Są używane do bardzo różnych rzeczy (PCA do redukcji wymiarów, LDA do klasyfikacji, PLS do regresji), ale nadal czują się bardzo blisko spokrewnione.

carlosdc
źródło
3
Oprócz miłego odniesienia w odpowiedzi poniżej, możesz także przeczytać Borga i wsp., 1997, A Unified Approach to PCA, PLS, MLR i CCA .
ameba mówi Przywróć Monikę

Odpowiedzi:

25

Tijl De Bie napisał ciekawy rozdział „ Problemy własne w rozpoznawaniu wzorów ”, który mówi o nich dokładnie z perspektywy pierwotnej / podwójnej. Trzy tabele na końcu podsumowują naprawdę ładnie z punktu widzenia optymalizacji:

Tabela 1

Tabela 2

Tabela 3

tdc
źródło