Lokalne osadzanie liniowe (LLE) eliminuje potrzebę szacowania odległości między odległymi obiektami i odzyskuje globalną nieliniową strukturę przez lokalne dopasowania liniowe. LLE jest korzystny, ponieważ nie wymaga żadnych parametrów, takich jak wskaźniki uczenia się lub kryteria konwergencji. LLE skaluje się również dobrze z wewnętrzną wymiarowością . Funkcja celu dla LLE to
Macierz wagowa elementów dla obiektów i jest ustawiona na zero, jeśliY
ζ(Y)=(Y−WY)2=Y⊤(I−W)⊤(I−W)Y
Wwijijjnie jest najbliższym sąsiadem , w przeciwnym razie wagi dla najbliższych K sąsiadów obiektu są określane przez dopasowanie najmniejszych kwadratów z
gdzie zmienna zależna jest wektorem z nich, jest macierzą Gram dla wszystkich najbliższych sąsiadów obiektu , a jest wektorem wag, które są zgodne z ograniczeniami sumy do jedności. Niech będzie symetrycznym dodatnim półfinałemiiU=Gβ
UK×1GK×KiβK×1DK×Kmacierz odległości dla wszystkich par najbliższych sąsiadów K obiektu -wymiarowego . Można wykazać, że jest równa podwójnie wyśrodkowanej macierzy odległości z elementami
W współczynniki regresji określono ilościowo stosując
pxiGττlm=−12(d2lm−1K∑ld2lm−1K∑md2lm+∑l∑md2lm).
KβK×1=(τ⊤τ)K×K−1τ⊤UK×1,
i są sprawdzane, aby potwierdzić, że sumują się do jedności. Wartości są osadzone w rzędzie z w różnych miejscach słupów odpowiadających K-najbliższych sąsiadów obiektu , jak również elementów transponowanie. Jest to powtarzane dla każdego tego obiektu w zbiorze danych. Warto zauważyć, że jeśli liczba najbliższych sąsiadów jest zbyt niska, może być rzadki, co może utrudniać analizę własną. Zaobserwowano, że najbliższych sąsiadów skutkowałoβiWiiKWK=9Wmatryce, które nie zawierały patologii podczas analizy własnej. Funkcja celu jest zminimalizowana przez znalezienie najmniejszych niezerowych wartości własnych
Skrócona postać jest reprezentowana przez gdzie ma wymiary oparciu o dwie najniższe wartości własne . (I−W)⊤(I−W)E=ΛDE.
XY=EEn×2Λ