Będąc nowicjuszem w R, nie jestem pewien, jak wybrać najlepszą liczbę klastrów do przeprowadzenia analizy k-średnich. Po wykreśleniu podzbioru poniższych danych, ile klastrów będzie odpowiednich? Jak mogę przeprowadzić analizę dendro klastrów?
n = 1000
kk = 10
x1 = runif(kk)
y1 = runif(kk)
z1 = runif(kk)
x4 = sample(x1,length(x1))
y4 = sample(y1,length(y1))
randObs <- function()
{
ix = sample( 1:length(x4), 1 )
iy = sample( 1:length(y4), 1 )
rx = rnorm( 1, x4[ix], runif(1)/8 )
ry = rnorm( 1, y4[ix], runif(1)/8 )
return( c(rx,ry) )
}
x = c()
y = c()
for ( k in 1:n )
{
rPair = randObs()
x = c( x, rPair[1] )
y = c( y, rPair[2] )
}
z <- rnorm(n)
d <- data.frame( x, y, z )
r
cluster-analysis
k-means
użytkownik2153893
źródło
źródło
fpc
pakiecie. To prawda, musisz ustawić dwa parametry ... ale odkryłem, żefpc::dbscan
to całkiem niezła robota w automatycznym określaniu dużej liczby klastrów. Dodatkowo może faktycznie wygenerować pojedynczy klaster, jeśli tak mówią dane - niektóre metody z doskonałych odpowiedzi @ Ben nie pomogą ci ustalić, czy k = 1 jest rzeczywiście najlepszy.Odpowiedzi:
Jeśli masz pytanie
how can I determine how many clusters are appropriate for a kmeans analysis of my data?
, oto kilka opcji. Artykuł w Wikipedii na temat określania liczby klastrów zawiera dobrą recenzję niektórych z tych metod.Po pierwsze, niektóre odtwarzalne dane (dane w Q są dla mnie ... niejasne):
Jeden . Poszukaj zakrętu lub łokcia w sumie piargu błędu kwadratu (SSE). Więcej informacji można znaleźć na stronie http://www.statmethods.net/advstats/cluster.html i http://www.mattpeeples.net/kmeans.html . Lokalizacja łokcia na powstałej działce sugeruje odpowiednią liczbę skupisk dla kmeanów:
Możemy stwierdzić, że ta metoda wskazywałaby 4 klastry:
Dwa . Możesz wykonać partycjonowanie wokół medoidów, aby oszacować liczbę klastrów, używając
pamk
funkcji w pakiecie fpc.Trzy . Kryterium Calinsky'ego: inne podejście do diagnozowania, ile klastrów odpowiada danym. W tym przypadku próbujemy od 1 do 10 grup.
Cztery . Określ optymalny model i liczbę klastrów zgodnie z Bayesowskim kryterium informacyjnym dla maksymalizacji oczekiwań, zainicjowanym przez hierarchiczne grupowanie dla sparametryzowanych modeli mieszanki Gaussa
Pięć . Klastrowanie propagacji powinowactwa (AP), patrz http://dx.doi.org/10.1126/science.1136800
Sześć . Statystyka luk w szacowaniu liczby klastrów. Zobacz także kod, aby uzyskać ładne wyjście graficzne . Próbowanie 2-10 klastrów tutaj:
Oto wynik implementacji statystyki luki przez Edwina Chena:
Siedem . Przydatne może być również eksplorowanie danych za pomocą klastrów w celu wizualizacji przypisania klastra, patrz http://www.r-statistics.com/2010/06/clustergram-visualization-and-diagnostics-for-cluster-analysis-r- kod / po więcej szczegółów.
Osiem . Pakiet NbClust zapewnia 30 indeksów w celu określenia liczby klastrów w zbiorze danych.
Jeśli masz pytanie
how can I produce a dendrogram to visualize the results of my cluster analysis
, powinieneś zacząć od tych: http://www.statmethods.net/advstats/cluster.html http://www.r-tutor.com/gpu-computing/clustering/hierarchical-cluster-analysis http://gastonsanchez.wordpress.com/2012/10/03/7-ways-to-plot-dendrograms-in-r/ I zapoznaj się z bardziej egzotycznymi metodami: http://cran.r-project.org/ web / views / Cluster.htmlOto kilka przykładów:
Również dla danych o dużych wymiarach jest
pvclust
biblioteka, która oblicza wartości p dla klastrowania hierarchicznego za pomocą wieloskalowego ponownego próbkowania ładowania. Oto przykład z dokumentacji (nie będzie działać na tak mało wymiarowych danych, jak w moim przykładzie):Czy coś z tego pomaga?
źródło
R
pakietów (jest to na moim GitHubie - zapraszamy do obejrzenia); 3) moje rozwiązanie wydaje się działać wystarczająco dobrze, a także minęło trochę czasu i już ukończyłem oprogramowanie do rozprawy, raport z rozprawy (praca dyplomowa) i obecnie przygotowuję się do obrony :-). Niezależnie od tego bardzo doceniam twój komentarz i linki. Wszystkiego najlepszego!Trudno jest dodać coś tak skomplikowanej odpowiedzi. Chociaż uważam, że powinniśmy
identify
tu wspomnieć , szczególnie dlatego, że @Ben pokazuje wiele przykładów dendrogramu.identify
pozwala interaktywnie wybierać klastry z dendrogramu i przechowywać wybrane opcje na liście. Naciśnij Esc, aby wyjść z trybu interaktywnego i wrócić do konsoli R. Zauważ, że lista zawiera indeksy, a nie nazwy (w przeciwieństwie docutree
).źródło
W celu określenia optymalnego k-klastra w metodach grupowania. Zazwyczaj używam
Elbow
metody towarzyszącej przetwarzaniu równoległemu, aby uniknąć marnowania czasu. Ten kod może próbkować w następujący sposób:Metoda łokciowa
Bieganie łokcia równolegle
To dobrze działa.
źródło
Wspaniała odpowiedź Bena. Jestem jednak zaskoczony, że zaproponowano tutaj metodę propagacji powinowactwa (AP), aby znaleźć liczbę klastrów dla metody k-średnich, gdzie ogólnie AP lepiej wykonuje klastrowanie danych. Zobacz artykuł naukowy potwierdzający tę metodę w nauce tutaj:
Frey, Brendan J. i Delbert Dueck. „Grupowanie poprzez przekazywanie wiadomości między punktami danych”. science 315.5814 (2007): 972–976.
Więc jeśli nie masz tendencji do k-średnich, sugeruję użycie AP bezpośrednio, który zgrupuje dane bez konieczności znajomości liczby klastrów:
Jeśli ujemne odległości euklidesowe nie są odpowiednie, możesz użyć innych miar podobieństwa podanych w tym samym pakiecie. Na przykład w przypadku podobieństw opartych na korelacjach Spearmana potrzebujesz:
Należy pamiętać, że te funkcje dla podobieństw w pakiecie AP są tylko dla uproszczenia. W rzeczywistości funkcja apcluster () w R akceptuje dowolną macierz korelacji. To samo wcześniej za pomocą corSimMat () można zrobić za pomocą:
lub
w zależności od tego, co chcesz zgrupować w matrycy (wiersze lub kolumny).
źródło
Te metody są świetne, ale podczas próby znalezienia k dla znacznie większych zestawów danych, mogą być szalenie powolne w R.
Dobrym rozwiązaniem, które znalazłem, jest pakiet „RWeka”, który ma wydajną implementację algorytmu X-Means - rozszerzonej wersji K-Means, która skaluje się lepiej i określa optymalną liczbę klastrów dla Ciebie.
Najpierw upewnij się, że Weka jest zainstalowana w twoim systemie i że XMeans jest zainstalowany za pomocą narzędzia do zarządzania pakietami Weka.
źródło
Prostym rozwiązaniem jest biblioteka
factoextra
. Możesz zmienić metodę grupowania i metodę obliczania najlepszej liczby grup. Na przykład, jeśli chcesz znać najlepszą liczbę klastrów dla k- oznacza:Dane: mtcars
Wreszcie otrzymujemy wykres taki jak:
źródło
Odpowiedzi są świetne. Jeśli chcesz dać szansę innej metodzie klastrowania, możesz użyć hierarchicznej klastrowania i zobaczyć, jak dane się dzielą.
W zależności od tego, ile klas potrzebujesz, możesz wyciąć swój program jako;
Jeśli wpiszesz
?cutree
, zobaczysz definicje. Jeśli twój zestaw danych ma trzy klasy, będzie to po prostucutree(hc.complete, k = 3)
. Odpowiednikiemcutree(hc.complete,k = 2)
jestcutree(hc.complete,h = 4.9)
.źródło