Jakiego rodzaju normalizacji danych należy używać z KNN?

Wiem, że istnieją więcej niż dwa rodzaje normalizacji.

Na przykład,

1- Przekształcanie danych przy użyciu wyniku Z lub wyniku T. Zwykle nazywa się to standaryzacją.

2- Skalowanie danych, aby uzyskać wartości od 0 do 1.

Pytanie, czy potrzebuję normalizacji

Jakiego rodzaju normalizacji danych należy używać z KNN? i dlaczego?

W przypadku k-NN sugerowałbym normalizację danych między a 1 .$0$$1$

k-NN wykorzystuje odległość euklidesową jako sposób porównania przykładów. Obliczyć odległość pomiędzy dwoma punktami , a x 2 = ( F 1 2 , C 2 2 , . . . , K M 2 ) , w którym f i 1 to wartość $x_1 = (f_1^1, f_1^2, ..., f_1^M)$$x_2 = (f_2^1, f_2^2, ..., f_2^M)$$f_1^i$$i$-ta cecha :$x_1$

Aby wszystkie cechy miały jednakowe znaczenie przy obliczaniu odległości, muszą mieć ten sam zakres wartości. Można to osiągnąć tylko poprzez normalizację.

Gdyby nie były znormalizowane i np. Cecha miała zakres wartości w [ 0 , 1 ), zaś f 2 miała zakres wartości w [ 1 , 10 ) . Przy obliczaniu odległości drugi składnik byłby 10 razy ważniejszy niż pierwszy, co spowodowałoby, że k-NN polegałby bardziej na drugiej funkcji niż na pierwszej. Normalizacja zapewnia, że wszystkie funkcje są odwzorowane na ten sam zakres wartości.$f^1$$[0, 1$$f^2$$[1, 10)$$10$

Z drugiej strony standaryzacja ma wiele przydatnych właściwości, ale nie może zagwarantować, że funkcje są mapowane do tego samego zakresu. Chociaż standaryzacja może być najlepiej dostosowana do innych klasyfikatorów, nie dotyczy to k-NN ani żadnego innego klasyfikatora opartego na odległości.