Z takiej ramki danych
test <- data.frame('id'= rep(1:5,2), 'string'= LETTERS[1:10])
test <- test[order(test$id), ]
rownames(test) <- 1:10
> test
id string
1 1 A
2 1 F
3 2 B
4 2 G
5 3 C
6 3 H
7 4 D
8 4 I
9 5 E
10 5 J
Chcę utworzyć nowy z pierwszym wierszem każdej pary identyfikator / ciąg. Jeśli sqldf zaakceptowałby w nim kod R, zapytanie mogłoby wyglądać następująco:
res <- sqldf("select id, min(rownames(test)), string
from test
group by id, string")
> res
id string
1 1 A
3 2 B
5 3 C
7 4 D
9 5 E
Czy istnieje rozwiązanie, które nie pozwala na utworzenie nowej kolumny, takiej jak
test$row <- rownames(test)
i uruchamiając to samo zapytanie sqldf z min (wiersz)?
Odpowiedzi:
Możesz
duplicated
to zrobić bardzo szybko.Benchmarki dla maniaków prędkości:
ju <- function() test[!duplicated(test$id),] gs1 <- function() do.call(rbind, lapply(split(test, test$id), head, 1)) gs2 <- function() do.call(rbind, lapply(split(test, test$id), `[`, 1, )) jply <- function() ddply(test,.(id),function(x) head(x,1)) jdt <- function() { testd <- as.data.table(test) setkey(testd,id) # Initial solution (slow) # testd[,lapply(.SD,function(x) head(x,1)),by = key(testd)] # Faster options : testd[!duplicated(id)] # (1) # testd[, .SD[1L], by=key(testd)] # (2) # testd[J(unique(id)),mult="first"] # (3) # testd[ testd[,.I[1L],by=id] ] # (4) needs v1.8.3. Allows 2nd, 3rd etc } library(plyr) library(data.table) library(rbenchmark) # sample data set.seed(21) test <- data.frame(id=sample(1e3, 1e5, TRUE), string=sample(LETTERS, 1e5, TRUE)) test <- test[order(test$id), ] benchmark(ju(), gs1(), gs2(), jply(), jdt(), replications=5, order="relative")[,1:6] # test replications elapsed relative user.self sys.self # 1 ju() 5 0.03 1.000 0.03 0.00 # 5 jdt() 5 0.03 1.000 0.03 0.00 # 3 gs2() 5 3.49 116.333 2.87 0.58 # 2 gs1() 5 3.58 119.333 3.00 0.58 # 4 jply() 5 3.69 123.000 3.11 0.51
Spróbujmy jeszcze raz, ale tylko z rywalami z pierwszego biegu, z większą ilością danych i większą liczbą replikacji.
set.seed(21) test <- data.frame(id=sample(1e4, 1e6, TRUE), string=sample(LETTERS, 1e6, TRUE)) test <- test[order(test$id), ] benchmark(ju(), jdt(), order="relative")[,1:6] # test replications elapsed relative user.self sys.self # 1 ju() 100 5.48 1.000 4.44 1.00 # 2 jdt() 100 6.92 1.263 5.70 1.15
źródło
!duplicated(x)
znajduje pierwszą z każdej grupy, nawet jeśli nie jest posortowana, iiuc.Preferuję podejście dplyr.
group_by(id)
po którym następuje albofilter(row_number()==1)
lubslice(1)
lubslice_head(1)
# (dplyr => 1,0)top_n(n = -1)
top_n()
wewnętrznie używa funkcji rangi. Negatywne selekcje z dołu rangi.W niektórych przypadkach może być konieczne umieszczenie identyfikatorów po parametrze group_by.
library(dplyr) # using filter(), top_n() or slice() m1 <- test %>% group_by(id) %>% filter(row_number()==1) m2 <- test %>% group_by(id) %>% slice(1) m3 <- test %>% group_by(id) %>% top_n(n = -1)
Wszystkie trzy metody zwracają ten sam wynik
# A tibble: 5 x 2 # Groups: id [5] id string <int> <fct> 1 1 A 2 2 B 3 3 C 4 4 D 5 5 E
źródło
slice
też to powiedzieć.slice(x)
jest skrótem dofilter(row_number() %in% x)
.data.table
na a,data.frame
aby to zadziałało?data.table
dziedziczy po tym,data.frame
więc w wielu przypadkach możesz użyć poleceń dplyr na plikudata.table
. Przykład powyżej np. Działa również, jeślitest
jestdata.table
. Patrz np stackoverflow.com/questions/13618488/... głębszego explanantionCo powiesz na
DT <- data.table(test) setkey(DT, id) DT[J(unique(id)), mult = "first"]
Edytować
Istnieje również unikalna metoda,
data.tables
która zwraca pierwszy wiersz według kluczajdtu <- function() unique(DT)
Myślę, że jeśli zamawiasz
test
poza benchmarkiem, możesz również usunąćsetkey
idata.table
konwersję z benchmarku (ponieważ setkey zasadniczo sortuje według identyfikatora, tak samo jakorder
).set.seed(21) test <- data.frame(id=sample(1e3, 1e5, TRUE), string=sample(LETTERS, 1e5, TRUE)) test <- test[order(test$id), ] DT <- data.table(DT, key = 'id') ju <- function() test[!duplicated(test$id),] jdt <- function() DT[J(unique(id)),mult = 'first'] library(rbenchmark) benchmark(ju(), jdt(), replications = 5) ## test replications elapsed relative user.self sys.self ## 2 jdt() 5 0.01 1 0.02 0 ## 1 ju() 5 0.05 5 0.05 0
i więcej danych
** Edytuj unikalną metodą **
set.seed(21) test <- data.frame(id=sample(1e4, 1e6, TRUE), string=sample(LETTERS, 1e6, TRUE)) test <- test[order(test$id), ] DT <- data.table(test, key = 'id') test replications elapsed relative user.self sys.self 2 jdt() 5 0.09 2.25 0.09 0.00 3 jdtu() 5 0.04 1.00 0.05 0.00 1 ju() 5 0.22 5.50 0.19 0.03
Unikalna metoda jest tutaj najszybsza.
źródło
unique(DT,by="id")
działa bezpośredniodata.table
wersji> = 1.9.8, domyślnyby
argument dlaunique
toby = seq_along(x)
(wszystkie kolumny), zamiast poprzedniego domyślnegoby = key(x)
Prosta
ddply
opcja:ddply(test,.(id),function(x) head(x,1))
Jeśli problemem jest szybkość, podobne podejście można zastosować w przypadku
data.table
:testd <- data.table(test) setkey(testd,id) testd[,.SD[1],by = key(testd)]
lub może to być znacznie szybsze:
testd[testd[, .I[1], by = key(testd]$V1]
źródło
teraz, dla
dplyr
dodania odrębnego licznika.df %>% group_by(aa, bb) %>% summarise(first=head(value,1), count=n_distinct(value))
Tworzysz grupy, a one podsumowują w grupach.
Jeśli dane są numeryczne, możesz użyć:
first(value)
[istnieje równieżlast(value)
] zamiasthead(value, 1)
zobacz: http://cran.rstudio.com/web/packages/dplyr/vignettes/introduction.html
Pełny:
> df Source: local data frame [16 x 3] aa bb value 1 1 1 GUT 2 1 1 PER 3 1 2 SUT 4 1 2 GUT 5 1 3 SUT 6 1 3 GUT 7 1 3 PER 8 2 1 221 9 2 1 224 10 2 1 239 11 2 2 217 12 2 2 221 13 2 2 224 14 3 1 GUT 15 3 1 HUL 16 3 1 GUT > library(dplyr) > df %>% > group_by(aa, bb) %>% > summarise(first=head(value,1), count=n_distinct(value)) Source: local data frame [6 x 4] Groups: aa aa bb first count 1 1 1 GUT 2 2 1 2 SUT 2 3 1 3 SUT 3 4 2 1 221 3 5 2 2 217 3 6 3 1 GUT 2
źródło
dplyr
, które nie wymagają pisania instrukcji dla każdej kolumny, która ma być uwzględniona (patrz na przykład odpowiedź atommana poniżej). Also I'm not sure what *"if data is numeric"* has anything to do with whether or not one would use
first (value) `vshead(value)
(or justvalue[1]
)(1) SQLite ma wbudowaną
rowid
pseudokolumnę, więc działa to:sqldf("select min(rowid) rowid, id, string from test group by id")
dający:
rowid id string 1 1 1 A 2 3 2 B 3 5 3 C 4 7 4 D 5 9 5 E
(2) Również
sqldf
sama marow.names=
argument:sqldf("select min(cast(row_names as real)) row_names, id, string from test group by id", row.names = TRUE)
dający:
id string 1 1 A 3 2 B 5 3 C 7 4 D 9 5 E
(3) Trzecia alternatywa, która łączy elementy dwóch powyższych, może być jeszcze lepsza:
sqldf("select min(rowid) row_names, id, string from test group by id", row.names = TRUE)
dający:
id string 1 1 A 3 2 B 5 3 C 7 4 D 9 5 E
Zauważ, że wszystkie trzy opierają się na rozszerzeniu SQLite do SQL, w którym użycie
min
lubmax
gwarantuje, że inne kolumny zostaną wybrane z tego samego wiersza. (W innych bazach danych opartych na języku SQL, które mogą nie być gwarantowane).źródło
Podstawową opcją R jest idiom
split()
-lapply()
-do.call()
:> do.call(rbind, lapply(split(test, test$id), head, 1)) id string 1 1 A 2 2 B 3 3 C 4 4 D 5 5 E
Bardziej bezpośredni opcją jest
lapply()
do[
funkcji:> do.call(rbind, lapply(split(test, test$id), `[`, 1, )) id string 1 1 A 2 2 B 3 3 C 4 4 D 5 5 E
Przecinek
1, )
na końculapply()
wywołania jest niezbędny, ponieważ jest to równoważne wywołaniu w[1, ]
celu wybrania pierwszego wiersza i wszystkich kolumn.źródło