Jaka jest różnica między wyborem funkcji a redukcją wymiarowości?

13

Wiem, że zarówno wybór funkcji, jak i redukcja wymiarów mają na celu zmniejszenie liczby cech w oryginalnym zestawie cech. Jaka jest dokładnie różnica między nimi, jeśli robimy to samo w obu z nich?

Facet z Londynu
źródło

Odpowiedzi:

13

Różnica polega na tym, że zestaw cech utworzonych przez wybór cech musi być podzbiorem oryginalnego zestawu cech, a zestaw utworzony przez redukcję wymiarów nie musi (na przykład PCA zmniejsza wymiar poprzez tworzenie nowych cech syntetycznych z liniowej kombinacji oryginalne, a następnie odrzucając mniej ważne).

W ten sposób wybór funkcji jest szczególnym przypadkiem zmniejszenia wymiarów.

FairMiles
źródło
0

Wybór funkcji działa na prace nad wariancją i redukcją wymiarów na wartości własnej i wektorze własnym.

Przy wyborze cech faktycznie pracujemy nad atrybutami i pozostawiamy atrybuty na podstawie wariancji, ale w przypadku zmniejszenia wymiarów tworzymy nowy wymiar na podstawie kowariancji.

Mam nadzieję, że moja odpowiedź pomoże ci dzięki zadaniu pytania.

Reeves
źródło
hmmm ... wybór funkcji działa na wariancję?
Siong Thye Goh
VarianceThreshold to proste podejście bazowe do wyboru funkcji scikit-learn.org/stable/modules/feature_selection.html
Reeves
Redukcja wymiarów nie musi wykorzystywać wartości własnych i wektorów własnych, np. UMAP i t-SNE nie.
alan ocallaghan