Pandy Pythona Filtrowanie nan z selekcji danych w kolumnie ciągów

190

Bez użycia, groupbyjak miałbym odfiltrować dane bezNaN ?

Powiedzmy, że mam matrycę, w której klienci wypełnią „nie dotyczy”, „nie dotyczy” lub dowolną z jej odmian, a inni pozostawiają to pole puste:

import pandas as pd
import numpy as np


df = pd.DataFrame({'movie': ['thg', 'thg', 'mol', 'mol', 'lob', 'lob'],
                  'rating': [3., 4., 5., np.nan, np.nan, np.nan],
                  'name': ['John', np.nan, 'N/A', 'Graham', np.nan, np.nan]})

nbs = df['name'].str.extract('^(N/A|NA|na|n/a)')
nms=df[(df['name'] != nbs) ]

wynik:

>>> nms
  movie    name  rating
0   thg    John       3
1   thg     NaN       4
3   mol  Graham     NaN
4   lob     NaN     NaN
5   lob     NaN     NaN

Jak odfiltrować wartości NaN, aby uzyskać wyniki do pracy w następujący sposób:

  movie    name  rating
0   thg    John       3
3   mol  Graham     NaN

Chyba potrzebuję czegoś takiego, ~np.isnanale tilda nie działa z łańcuchami.

ccsv
źródło

Odpowiedzi:

257

Po prostu upuść je:

nms.dropna(thresh=2)

spowoduje to usunięcie wszystkich wierszy, w których są co najmniej dwa inne niż NaN.

Następnie możesz upuścić tam, gdzie jest nazwa NaN:

In [87]:

nms
Out[87]:
  movie    name  rating
0   thg    John       3
1   thg     NaN       4
3   mol  Graham     NaN
4   lob     NaN     NaN
5   lob     NaN     NaN

[5 rows x 3 columns]
In [89]:

nms = nms.dropna(thresh=2)
In [90]:

nms[nms.name.notnull()]
Out[90]:
  movie    name  rating
0   thg    John       3
3   mol  Graham     NaN

[2 rows x 3 columns]

EDYTOWAĆ

Właściwie patrząc na to, co pierwotnie chcesz, możesz to zrobić bez dropnapołączenia:

nms[nms.name.notnull()]

AKTUALIZACJA

Patrząc na to pytanie 3 lata później, jest błąd, po pierwsze thresharg szuka przynajmniej nnie- NaNwartości, więc w rzeczywistości wynik powinien być:

In [4]:
nms.dropna(thresh=2)

Out[4]:
  movie    name  rating
0   thg    John     3.0
1   thg     NaN     4.0
3   mol  Graham     NaN

Możliwe, że pomyliłem się 3 lata temu lub że wersja pand, którą prowadziłem, zawierała błąd, oba scenariusze są całkowicie możliwe.

EdChum
źródło