Oblicz różnicę czasu Pandas DataFrame między dwiema kolumnami w godzinach i minutach

85

Mam dwie kolumny fromdatei todatew ramce danych.

import pandas as pd

data = {'todate': [pd.Timestamp('2014-01-24 13:03:12.050000'), pd.Timestamp('2014-01-27 11:57:18.240000'), pd.Timestamp('2014-01-23 10:07:47.660000')],
        'fromdate': [pd.Timestamp('2014-01-26 23:41:21.870000'), pd.Timestamp('2014-01-27 15:38:22.540000'), pd.Timestamp('2014-01-23 18:50:41.420000')]}

df = pd.DataFrame(data)

Dodaję nową kolumnę, diffaby znaleźć różnicę między dwiema datami za pomocą

df['diff'] = df['fromdate'] - df['todate']

Dostaję diffkolumnę, ale zawiera days, gdy jest więcej niż 24 godziny.

                   todate                fromdate                   diff
0 2014-01-24 13:03:12.050 2014-01-26 23:41:21.870 2 days 10:38:09.820000
1 2014-01-27 11:57:18.240 2014-01-27 15:38:22.540 0 days 03:41:04.300000
2 2014-01-23 10:07:47.660 2014-01-23 18:50:41.420 0 days 08:42:53.760000

Jak przekonwertować wyniki na same godziny i minuty (tj. Dni są konwertowane na godziny)?

sbalajis
źródło

Odpowiedzi:

123

Różnice w sygnaturach czasowych Pandy zwracają obiekt datetime.timedelta. Można to łatwo zamienić na godziny za pomocą metody * as_type *, jak na przykład

import pandas
df = pandas.DataFrame(columns=['to','fr','ans'])
df.to = [pandas.Timestamp('2014-01-24 13:03:12.050000'), pandas.Timestamp('2014-01-27 11:57:18.240000'), pandas.Timestamp('2014-01-23 10:07:47.660000')]
df.fr = [pandas.Timestamp('2014-01-26 23:41:21.870000'), pandas.Timestamp('2014-01-27 15:38:22.540000'), pandas.Timestamp('2014-01-23 18:50:41.420000')]
(df.fr-df.to).astype('timedelta64[h]')

ustąpić,

0    58
1     3
2     8
dtype: float64
nitin
źródło
Obejście astype działa, ale jest zbyt wolne dla dużych (0,5 miliona wierszy) plików. Jakieś inne sugestie?
student 1
3
obiekt timedelta ma atrybuty dni i sekund ... tak, (df.fr-df.to) .dt.days * 24 + (df.fr-df.to) .dt.seconds / 3600
nitin
1
Dziękuję Ci! Pomogło mi to również w obliczaniu lat (aby uzyskać wiek): df ['age'] = (df ['later_date'] - df ['birth_date']). Astype ('timedelta64 [Y]')
Superduper
47

To doprowadzało mnie do szału, ponieważ .astype()powyższe rozwiązanie nie działało dla mnie. Ale znalazłem inny sposób. Nie ustawiłem tego w czasie ani nic, ale może zadziałać dla innych:

t1 = pd.to_datetime('1/1/2015 01:00')
t2 = pd.to_datetime('1/1/2015 03:30')

print pd.Timedelta(t2 - t1).seconds / 3600.0

... jeśli chcesz godzin. Lub:

print pd.Timedelta(t2 - t1).seconds / 60.0

... jeśli chcesz minut.

elPastor
źródło
9
Miałem ten sam problem, ale przy twoim rozwiązaniu trzeba uważać, ponieważ różnice czasu większe niż jeden dzień są ignorowane i muszą być uwzględnione osobno
podkowa
39
Właśnie odkryłem, że to .total_seconds()działa dla tych, którzy tego potrzebują
podkowa
Co ciekawe (mam zauważając 4 lata później), trzeba użyć nawiasów ()dla .total_seconds()ale nie.seconds
elPastor
5
import pandas as pd

# test data from OP, with values already in a datetime format
data = {'to_date': [pd.Timestamp('2014-01-24 13:03:12.050000'), pd.Timestamp('2014-01-27 11:57:18.240000'), pd.Timestamp('2014-01-23 10:07:47.660000')],
        'from_date': [pd.Timestamp('2014-01-26 23:41:21.870000'), pd.Timestamp('2014-01-27 15:38:22.540000'), pd.Timestamp('2014-01-23 18:50:41.420000')]}

# test dataframe; the columns must be in a datetime format; use pandas.to_datetime if needed
df = pd.DataFrame(data)

# add a timedelta column if wanted. It's added here for information only
# df['time_delta_with_sub'] = df.from_date.sub(df.to_date)  # also works
df['time_delta'] = (df.from_date - df.to_date)

# create a column with timedelta as total hours, as a float type
df['tot_hour_diff'] = (df.from_date - df.to_date) / pd.Timedelta(hours=1)

# create a colume with timedelta as total minutes, as a float type
df['tot_mins_diff'] = (df.from_date - df.to_date) / pd.Timedelta(minutes=1)

# display(df)
                  to_date               from_date             time_delta  tot_hour_diff  tot_mins_diff
0 2014-01-24 13:03:12.050 2014-01-26 23:41:21.870 2 days 10:38:09.820000      58.636061    3518.163667
1 2014-01-27 11:57:18.240 2014-01-27 15:38:22.540 0 days 03:41:04.300000       3.684528     221.071667
2 2014-01-23 10:07:47.660 2014-01-23 18:50:41.420 0 days 08:42:53.760000       8.714933     522.896000

Inne metody

  • Uwaga z podcastu w Innych zasobach .total_seconds()została dodana i połączona, gdy główny programista była na wakacjach, i nie zostałaby zatwierdzona.
    • Dlatego też nie ma innych .total_xxmetod.
# convert the entire timedelta to seconds
# this is the same as td / timedelta(seconds=1)
(df.from_date - df.to_date).dt.total_seconds()
[out]:
0    211089.82
1     13264.30
2     31373.76
dtype: float64

# get the number of days
(df.from_date - df.to_date).dt.days
[out]:
0    2
1    0
2    0
dtype: int64

# get the seconds for hours + minutes + seconds, but not days
# note the difference from total_seconds
(df.from_date - df.to_date).dt.seconds
[out]:
0    38289
1    13264
2    31373
dtype: int64

Inne zasoby

%%timeit test

import pandas as pd

# dataframe with 2M rows
data = {'to_date': [pd.Timestamp('2014-01-24 13:03:12.050000'), pd.Timestamp('2014-01-27 11:57:18.240000')], 'from_date': [pd.Timestamp('2014-01-26 23:41:21.870000'), pd.Timestamp('2014-01-27 15:38:22.540000')]}
df = pd.DataFrame(data)
df = pd.concat([df] * 1000000).reset_index(drop=True)

%%timeit
(df.from_date - df.to_date) / pd.Timedelta(hours=1)
[out]:
43.1 ms ± 1.05 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)

%%timeit
(df.from_date - df.to_date).astype('timedelta64[h]')
[out]:
59.8 ms ± 1.29 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
Trenton McKinney
źródło