jak podzielić kolumnę krotek w Dataframe pandy?

88

Mam ramkę danych pandy (to tylko mały kawałek)

>>> d1
   y norm test  y norm train  len(y_train)  len(y_test)  \
0    64.904368    116.151232          1645          549   
1    70.852681    112.639876          1645          549   

                                    SVR RBF  \
0   (35.652207342877873, 22.95533537448393)   
1  (39.563683797747622, 27.382483096332511)   

                                        LCV  \
0  (19.365430594452338, 13.880062435173587)   
1  (19.099614489458364, 14.018867136617146)   

                                   RIDGE CV  \
0  (4.2907610988480362, 12.416745648065584)   
1    (4.18864306788194, 12.980833914392477)   

                                         RF  \
0   (9.9484841581029428, 16.46902345373697)   
1  (10.139848213735391, 16.282141345406522)   

                                           GB  \
0  (0.012816232716538605, 15.950164822266007)   
1  (0.012814519804493328, 15.305745202851712)   

                                             ET DATA  
0  (0.00034337162272515505, 16.284800366214057)  j2m  
1  (0.00024811554516431878, 15.556506191784194)  j2m  
>>> 

Chcę podzielić wszystkie kolumny zawierające krotki. Na przykład chcę zastąpić kolumnę LCVkolumnami LCV-ai LCV-b.

Jak mogę to zrobić?

Donbeo
źródło

Odpowiedzi:

159

Możesz to zrobić, wykonując pd.DataFrame(col.tolist())w tej kolumnie:

In [2]: df = pd.DataFrame({'a':[1,2], 'b':[(1,2), (3,4)]})                                                                                                                      

In [3]: df                                                                                                                                                                      
Out[3]: 
   a       b
0  1  (1, 2)
1  2  (3, 4)

In [4]: df['b'].tolist()                                                                                                                                                        
Out[4]: [(1, 2), (3, 4)]

In [5]: pd.DataFrame(df['b'].tolist(), index=df.index)                                                                                                                                          
Out[5]: 
   0  1
0  1  2
1  3  4

In [6]: df[['b1', 'b2']] = pd.DataFrame(df['b'].tolist(), index=df.index)                                                                                                                       

In [7]: df                                                                                                                                                                      
Out[7]: 
   a       b  b1  b2
0  1  (1, 2)   1   2
1  2  (3, 4)   3   4

Uwaga: we wcześniejszej wersji tej odpowiedzi zaleca się używać df['b'].apply(pd.Series)zamiast pd.DataFrame(df['b'].tolist(), index=df.index). To również działa (ponieważ tworzy z każdej krotki serię, która jest następnie postrzegana jako wiersz ramki danych), ale jest wolniejsza / zużywa więcej pamięci niż tolistwersja, jak zauważono w innych odpowiedziach tutaj (dzięki @denfromufa) .
Zaktualizowałem tę odpowiedź, aby upewnić się, że najbardziej widoczna odpowiedź ma najlepsze rozwiązanie.

joris
źródło
2
czy istnieje sposób na zautomatyzowanie tego ze względu na dużą liczbę kolumn?
Donbeo
Myślę, że nie bezpośrednio. Ale możesz łatwo napisać do niego funkcję, używając powyższego kodu (+ usuwając oryginalny)
joris
Jeśli masz dużą liczbę kolumn, możesz rozważyć „uporządkowanie” danych: vita.had.co.nz/papers/tidy-data.html Możesz to zrobić za pomocą funkcji melt.
Axel
.apply (pd.Series) działa dobrze, ale w przypadku dużych zbiorów danych zużywa dużo pamięci i może powodować błąd pamięci
Yury Wallet
26

Na znacznie większych zbiorach danych stwierdziłem, że .apply()jest to kilka zamówień wolniej niżpd.DataFrame(df['b'].values.tolist(), index=df.index)

Ten problem z wydajnością został zamknięty w GitHubie, chociaż nie zgadzam się z tą decyzją:

https://github.com/pandas-dev/pandas/issues/11615

EDYCJA: na podstawie tej odpowiedzi: https://stackoverflow.com/a/44196843/2230844

denfromufa
źródło
5
pd.DataFrame(df['b'].tolist())bez .valueswydaje się działać dobrze. (I dzięki, twoje rozwiązanie jest znacznie szybsze niż .apply())
Swier
Martwiłem się przechwytywaniem indeksu, stąd jawne użycie wartości.
denfromufa
1
rozwiązanie @denfromufa działa super szybko df [['b1', 'b2']] = pd.DataFrame (df ['b']. values.tolist (), index = df.index) i nie powoduje błędu pamięci (jak w porównaniu z .apply (pd.Series))
Yury Wallet
17

strAccessor która jest dostępna dla pandas.Seriesobiektów dtype == objectjest faktycznie iterable.

Załóżmy pandas.DataFrame df:

df = pd.DataFrame(dict(col=[*zip('abcdefghij', range(10, 101, 10))]))

df

        col
0   (a, 10)
1   (b, 20)
2   (c, 30)
3   (d, 40)
4   (e, 50)
5   (f, 60)
6   (g, 70)
7   (h, 80)
8   (i, 90)
9  (j, 100)

Możemy sprawdzić, czy jest to iterowalne

from collections import Iterable

isinstance(df.col.str, Iterable)

True

Następnie możemy z niego przypisać, tak jak robimy inne iterowalne:

var0, var1 = 'xy'
print(var0, var1)

x y

Najprostsze rozwiązanie

Czyli w jednej linii możemy przypisać obie kolumny

df['a'], df['b'] = df.col.str

df

        col  a    b
0   (a, 10)  a   10
1   (b, 20)  b   20
2   (c, 30)  c   30
3   (d, 40)  d   40
4   (e, 50)  e   50
5   (f, 60)  f   60
6   (g, 70)  g   70
7   (h, 80)  h   80
8   (i, 90)  i   90
9  (j, 100)  j  100

Szybsze rozwiązanie

Tylko trochę bardziej skomplikowane, możemy użyć zipdo stworzenia podobnej iteracji

df['c'], df['d'] = zip(*df.col)

df

        col  a    b  c    d
0   (a, 10)  a   10  a   10
1   (b, 20)  b   20  b   20
2   (c, 30)  c   30  c   30
3   (d, 40)  d   40  d   40
4   (e, 50)  e   50  e   50
5   (f, 60)  f   60  f   60
6   (g, 70)  g   70  g   70
7   (h, 80)  h   80  h   80
8   (i, 90)  i   90  i   90
9  (j, 100)  j  100  j  100

Inline

Znaczenie, nie modyfikuj istniejących df
Działa to, ponieważ assignprzyjmuje argumenty słów kluczowych, w których słowa kluczowe są nowymi (lub istniejącymi) nazwami kolumn, a wartości będą wartościami nowej kolumny. Możesz użyć słownika, rozpakować go i sprawić, **by działał jako argumenty słów kluczowych. Jest to więc sprytny sposób przypisania nowej kolumny o nazwie, 'g'która jest pierwszą pozycją w df.col.striterowalnej i 'h'jest drugą pozycją w df.col.striterowalnej.

df.assign(**dict(zip('gh', df.col.str)))

        col  g    h
0   (a, 10)  a   10
1   (b, 20)  b   20
2   (c, 30)  c   30
3   (d, 40)  d   40
4   (e, 50)  e   50
5   (f, 60)  f   60
6   (g, 70)  g   70
7   (h, 80)  h   80
8   (i, 90)  i   90
9  (j, 100)  j  100

Moja wersja listpodejścia

Z nowoczesnym zrozumieniem list i rozpakowywaniem zmiennych.
Uwaga: również przy użyciu inlinejoin

df.join(pd.DataFrame([*df.col], df.index, [*'ef']))

        col  g    h
0   (a, 10)  a   10
1   (b, 20)  b   20
2   (c, 30)  c   30
3   (d, 40)  d   40
4   (e, 50)  e   50
5   (f, 60)  f   60
6   (g, 70)  g   70
7   (h, 80)  h   80
8   (i, 90)  i   90
9  (j, 100)  j  100

Wersja mutująca byłaby

df[['e', 'f']] = pd.DataFrame([*df.col], df.index)

Naiwny test czasu

Short DataFrame

Użyj jednego zdefiniowanego powyżej

%timeit df.assign(**dict(zip('gh', df.col.str)))
%timeit df.assign(**dict(zip('gh', zip(*df.col))))
%timeit df.join(pd.DataFrame([*df.col], df.index, [*'gh']))

1.16 ms ± 21.5 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
635 µs ± 18.7 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
795 µs ± 42.5 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
Długi DataFrame

10 ^ 3 razy większy

df = pd.concat([df] * 1000, ignore_index=True)

%timeit df.assign(**dict(zip('gh', df.col.str)))
%timeit df.assign(**dict(zip('gh', zip(*df.col))))
%timeit df.join(pd.DataFrame([*df.col], df.index, [*'gh']))

11.4 ms ± 1.53 ms per loop (mean ± std. dev. of 7 runs, 100 loops each)
2.1 ms ± 41.4 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
2.33 ms ± 35.1 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
piRSquared
źródło
2
Rozważ dodanie TL; DR: df['a'], df['b'] = df.col.str:)
mirekphd
11

Myślę, że prostszy sposób to:

>>> import pandas as pd
>>> df = pd.DataFrame({'a':[1,2], 'b':[(1,2), (3,4)]}) 
>>> df
   a       b
0  1  (1, 2)
1  2  (3, 4)
>>> df['b_a']=df['b'].str[0]
>>> df['b_b']=df['b'].str[1]
>>> df
   a       b  b_a  b_b
0  1  (1, 2)    1    2
1  2  (3, 4)    3    4
Jinhua Wang
źródło
1
To rozwiązanie jest rzeczywiście znacznie prostsze
ApplePie
@jinhuawang wygląda na to, że to hack na strreprezentacji pd.Seriesobiektu. Czy możesz wyjaśnić, jak to w ogóle działa ?!
denfromufa
Myślę, że to tylko jak działa obiekt str? możesz uzyskać dostęp do obiektu tablicy za pomocą str
Jinhua Wang
A co, jeśli w niektórych wierszach znajdują się krotki z różną liczbą wartości?
mammykins
Myślę, że to powinno być akceptowane. To bardziej „pandy-onic”… jeśli o to chodzi.
Natacha
8

Wiem, że to było jakiś czas temu, ale zastrzeżenie drugiego rozwiązania:

pd.DataFrame(df['b'].values.tolist())

polega na tym, że jawnie odrzuci indeks i doda domyślny indeks sekwencyjny, podczas gdy zaakceptowana odpowiedź

apply(pd.Series)

nie, ponieważ wynik zastosowania zachowa indeks wiersza. Podczas gdy kolejność jest początkowo zachowywana z oryginalnej tablicy, pandy będą próbowały dopasować wskazania z dwóch ramek danych.

Może to być bardzo ważne, jeśli próbujesz ustawić wiersze w tablicy indeksowanej numerycznie, a pandy automatycznie spróbują dopasować indeks nowej tablicy do starej i spowodować pewne zniekształcenia w kolejności.

Lepszym rozwiązaniem hybrydowym byłoby ustawienie indeksu oryginalnej ramki danych na nową, tj

pd.DataFrame(df['b'].values.tolist(), index=df.index)

Który zachowa szybkość korzystania z drugiej metody, zapewniając jednocześnie zachowanie kolejności i indeksowania wyniku.

Mikrofon
źródło
Zredagowałem moją odpowiedź na podstawie Twojej obserwacji indeksowania, dzięki!
denfromufa