zidentyfikować i oznaczyć zduplikowane wiersze wr

11

Chciałbym zidentyfikować i oznaczyć zduplikowane wiersze na podstawie 2 kolumn. Chciałbym utworzyć unikalny identyfikator dla każdego duplikatu, więc wiem nie tylko, że wiersz jest duplikatem, ale z którym wierszem jest duplikatem. Mam ramkę danych, która wygląda jak poniżej z niektórymi zduplikowanymi parami elementów (przy dopasowaniu i usiąść) i innymi parami, które nie są duplikowane. Podczas gdy pary pozycji są duplikowane, zawarte w nich informacje są unikalne (np. Jeden wiersz będzie miał wartość w wartości 1 dla 1 wiersza, ale nie ma wartości 2 i wartości 3, drugi lub „duplikat” wiersza będzie zawierał liczby dla wartości 2 i wartości 3 tylko nie wartość1)

aktualna ramka danych

     value1 value2 value3 fit   sit  
[1,] "1"    NA     NA     "it1" "it2"
[2,] NA     "3"    "2"    "it2" "it1"
[3,] "2"    "3"    "4"    "it3" "it4"
[4,] NA     NA     NA     "it4" "it3"
[5,] "5"    NA     NA     "it5" "it6"
[6,] NA     NA     "2"    "it6" "it5"
[7,] NA     "4"    NA     "it7" "it9"

kod do wygenerowania przykładowej ramki danych

value1<-c(1,NA,2,NA,5,NA,NA)
value2<-c(NA,3,3,NA,NA,NA, 4)
value3<-c(NA,2,4,NA,NA,2, NA)
fit<-c("it1","it2","it3","it4", "it5", "it6","it7")
sit<-c("it2","it1","it4","it3", "it6", "it5", "it9")
df.now<-cbind(value1,value2,value3, fit, sit)

chcę przekonwertować go na ramkę danych, która wygląda następująco:

pożądana ramka danych

     val1 val2 val3 it1   it2  
[1,] "1"  "3"  "2"  "it1" "it2"
[2,] "2"  "3"  "4"  "it3" "it4"
[3,] "5"  NA   "2"  "it5" "it6"
[4,] NA   "4"  NA   "it7" "it9"

Myślałem o zrobieniu następujących kroków: 1. utwórz nowe zmienne przy użyciu fit i usiądź przy najniższym i najwyższym elemencie, aby zidentyfikować zduplikowane pary 2. zidentyfikuj zduplikowane pary przedmiotów 3. użyj ifelse, aby wybrać i wypełnić niepowtarzalne informacje.

Wiem, jak wykonać kroki 1 i 3, ale utknąłem na kroku 2. Myślę, że muszę nie tylko zidentyfikować PRAWDA / FAŁSZ, ale może mieć kolumnę z unikalnym identyfikatorem dla każdej pary takich elementów (tam są 2 dodatkowe wiersze z powodu mojego kroku 1):

     value1 value2 value3 fit   sit   lit   hit    dup
[1,] "1"    NA     NA     "it1" "it2" "it1" "it2"   1
[2,] NA     "3"    "2"    "it2" "it1" "it1" "it2"   1
[3,] "2"    "3"    "4"    "it3" "it4" "it3" "it4"   2
[4,] NA     NA     NA     "it4" "it3" "it3" "it4"   2
[5,] "5"    NA     NA     "it5" "it6" "it5" "it6"   3
[6,] NA     NA     "2"    "it6" "it5" "it5" "it6"   3
[7,] NA     "4"    NA     "it7" "it9" "it7" "it9"   NA

Nie jestem pewien jak to zrobić.

Proszę o pomoc w kroku 2 lub może istnieje lepszy sposób na rozwiązanie tego problemu niż kroki, które nakreśliłem.

Heather Clark
źródło

Odpowiedzi:

6

Jedną z dplyropcji może być:

df.now %>%
 group_by(pair = paste(pmax(fit, sit), pmin(fit, sit), sep = "_")) %>%
 summarise_at(vars(starts_with("value")), ~ ifelse(all(is.na(.)), 
                                                   NA,
                                                   first(na.omit(.))))

  pair    value1 value2 value3
  <chr>    <dbl>  <dbl>  <dbl>
1 it2_it1      1      3      2
2 it4_it3      2      3      4
3 it6_it5      5     NA      2
4 it9_it7     NA      4     NA

A jeśli potrzebujesz również par w poszczególnych kolumnach, to po dodaniu tidyrmożesz zrobić:

df.now %>%
 group_by(pair = paste(pmax(fit, sit), pmin(fit, sit), sep = "_")) %>%
 summarise_at(vars(starts_with("value")), ~ ifelse(all(is.na(.)), 
                                                   NA,
                                                   first(na.omit(.)))) %>%
 separate(pair, into = c("fit", "hit"), sep = "_", remove = FALSE)

  pair    fit   hit   value1 value2 value3
  <chr>   <chr> <chr>  <dbl>  <dbl>  <dbl>
1 it2_it1 it2   it1        1      3      2
2 it4_it3 it4   it3        2      3      4
3 it6_it5 it6   it5        5     NA      2
4 it9_it7 it9   it7       NA      4     NA
tmfmnk
źródło
Dziękuję Ci! To działa dobrze. Doceniam dodanie opcji oddzielenia elementów.
Heather Clark
3

Użyj !duplicated()po sorting.

df.now[!duplicated(t(apply(df.now[, c("fit", "sit")], 1, sort))), ]
#       value1 value2 value3 fit   sit  
# [1,] "1"    NA     NA     "it1" "it2"
# [2,] "2"    "3"    "4"    "it3" "it4"
# [3,] "5"    NA     NA     "it5" "it6"
# [4,] NA     "4"    NA     "it7" "it9"
jay.sf
źródło
Dziekuje za szybką odpowiedź. Jednak to rozwiązanie usuwa informacje, które muszę zachować. Chcę połączyć informacje z 3 kolumn wartości, które znajdują się w 2 wierszach tych samych par elementów. Daj mi znać, jeśli nie jest to jasne
Heather Clark
2

Korzystanie melt/dcastzdata.table

library(data.table)
dcast(melt(setDT(df.now)[, c('fit1', 'sit1') := .(pmin(fit, sit), 
    pmax(fit, sit))], measure = patterns("^value"), na.rm = TRUE),
     fit1 + sit1 ~ variable, value.var = 'value')
#   fit1 sit1 value1 value2 value3
#1:  it1  it2      1      3      2
#2:  it3  it4      2      3      4
#3:  it5  it6      5     NA      2
#4:  it7  it9     NA      4     NA

dane

df.now <- data.frame(value1,value2,value3, fit, sit, stringsAsFactors = FALSE)
akrun
źródło
2

Inna data.tableopcja:

library(data.table)
as.data.table(df.now)[, lapply(.SD, function(x) first(x[!is.na(x)])), 
    .(it1=pmin(fit, sit), it2=pmax(fit, sit)), 
    .SDcols=value1:value3]

wynik:

   it1 it2 value1 value2 value3
1: it1 it2      1      3      2
2: it3 it4      2      3      4
3: it5 it6      5   <NA>      2
4: it7 it9   <NA>      4   <NA>
chinsoon12
źródło
1

Oto moja próba użycia data.table. Twoje dane są nazywane mydf. Po pierwsze, sortowane fiti sitdla każdego wiersza i stworzył nową zmienną group. Następnie dla każdej grupy posortowałem wartości w trzech kolumnach wartości (tj. Wartość1, wartość2 i wartość3). Na koniec wyodrębniłem pierwszy wiersz dla każdej grupy.

library(data.table)

mydt <- setDT(mydf)[, group := paste(sort(.SD), collapse = "_"),
                    .SD = c("fit", "sit"), by = 1:nrow(mydf)][,
                        c("value1", "value2", "value3") := lapply(.SD, sort),
                        .SDcols = value1:value3, by = group][, .SD[1], by = group]

mydt[]

#     group value1 value2 value3 fit sit
#1: it1_it2      1      3      2 it1 it2
#2: it3_it4      2      3      4 it3 it4
#3: it5_it6      5     NA      2 it5 it6
#4: it7_it9     NA      4     NA it7 it9

DANE

mydf <- structure(list(value1 = c(1L, NA, 2L, NA, 5L, NA, NA), value2 = c(NA, 
3L, 3L, NA, NA, NA, 4L), value3 = c(NA, 2L, 4L, NA, NA, 2L, NA
), fit = c("it1", "it2", "it3", "it4", "it5", "it6", "it7"), 
sit = c("it2", "it1", "it4", "it3", "it6", "it5", "it9")), class = "data.frame", row.names = c(NA, 
-7L))
jazzurro
źródło
1

Można to również zrobić za pomocą tidyrs pivot_longerw values_drop_na = TRUEpołączeniu z pivot_wider:

library(tidyverse)

mydf %>%
   mutate(it1 = pmin(fit, sit), it2 = pmax(fit, sit)) %>%
   pivot_longer(cols = starts_with("value"), values_drop_na = TRUE) %>%
   pivot_wider(id_cols = c("it1", "it2"))

#> # A tibble: 4 x 5
#>   it1   it2   value1 value2 value3
#>   <chr> <chr>  <int>  <int>  <int>
#> 1 it1   it2        1      3      2
#> 2 it3   it4        2      3      4
#> 3 it5   it6        5     NA      2
#> 4 it7   it9       NA      4     NA

Dane

mydf <- structure(list(value1 = c(1L, NA, 2L, NA, 5L, NA, NA), value2 = c(NA, 
3L, 3L, NA, NA, NA, 4L), value3 = c(NA, 2L, 4L, NA, NA, 2L, NA
), fit = c("it1", "it2", "it3", "it4", "it5", "it6", "it7"), 
sit = c("it2", "it1", "it4", "it3", "it6", "it5", "it9")), class = "data.frame", row.names = c(NA, 
-7L))
Joris Chau
źródło