JSON do pandy DataFrame

143

To, co próbuję zrobić, to wyodrębnić dane wysokości z interfejsu API map Google wzdłuż ścieżki określonej przez współrzędne szerokości i długości geograficznej w następujący sposób:

from urllib2 import Request, urlopen
import json

path1 = '42.974049,-81.205203|42.974298,-81.195755'
request=Request('http://maps.googleapis.com/maps/api/elevation/json?locations='+path1+'&sensor=false')
response = urlopen(request)
elevations = response.read()

To daje mi dane, które wyglądają następująco:

elevations.splitlines()

['{',
 '   "results" : [',
 '      {',
 '         "elevation" : 243.3462677001953,',
 '         "location" : {',
 '            "lat" : 42.974049,',
 '            "lng" : -81.205203',
 '         },',
 '         "resolution" : 19.08790397644043',
 '      },',
 '      {',
 '         "elevation" : 244.1318664550781,',
 '         "location" : {',
 '            "lat" : 42.974298,',
 '            "lng" : -81.19575500000001',
 '         },',
 '         "resolution" : 19.08790397644043',
 '      }',
 '   ],',
 '   "status" : "OK"',
 '}']

podczas umieszczania w as DataFrame otrzymuję:

wprowadź opis obrazu tutaj

pd.read_json(elevations)

a oto, czego chcę:

wprowadź opis obrazu tutaj

Nie jestem pewien, czy jest to możliwe, ale przede wszystkim szukam sposobu, aby móc umieścić dane dotyczące wysokości, szerokości i długości geograficznej razem w ramce danych pandy (nie musi mieć fantazyjnych nagłówków mutiline).

Jeśli ktoś może pomóc lub udzielić porady dotyczącej pracy z tymi danymi, byłoby świetnie! Jeśli nie możesz powiedzieć, że wcześniej nie pracowałem zbyt wiele z danymi JSON ...

EDYTOWAĆ:

Ta metoda nie jest aż tak atrakcyjna, ale wydaje się działać:

data = json.loads(elevations)
lat,lng,el = [],[],[]
for result in data['results']:
    lat.append(result[u'location'][u'lat'])
    lng.append(result[u'location'][u'lng'])
    el.append(result[u'elevation'])
df = pd.DataFrame([lat,lng,el]).T

kończy się ramką danych zawierającą kolumny szerokość, długość i wysokość

wprowadź opis obrazu tutaj

pbreach
źródło
Witaj przyjacielu, czy wiesz, jak zdobyć kawałek json? jakiś podrozdział?
M. Mariscal

Odpowiedzi:

184

Znalazłem szybkie i łatwe rozwiązanie tego, co chciałem używać json_normalize()w programie pandas 1.01.

from urllib2 import Request, urlopen
import json

import pandas as pd    

path1 = '42.974049,-81.205203|42.974298,-81.195755'
request=Request('http://maps.googleapis.com/maps/api/elevation/json?locations='+path1+'&sensor=false')
response = urlopen(request)
elevations = response.read()
data = json.loads(elevations)
df = pd.json_normalize(data['results'])

Daje to ładną spłaszczoną ramkę danych z danymi json, które otrzymałem z Google Maps API.

pbreach
źródło
13
To już nie działa - musiałem użyć pd.DataFrame.from_records()zgodnie z opisem stackoverflow.com/a/33020669/1137803
avv
4
from_records również czasami nie działa, jeśli json jest wystarczająco złożony, musisz zastosować json.io.json.json_normalize, aby uzyskać płaską mapę. Sprawdź stackoverflow.com/questions/39899005/…
devssh
27

Sprawdź to wycinek.

# reading the JSON data using json.load()
file = 'data.json'
with open(file) as train_file:
    dict_train = json.load(train_file)

# converting json dataset from dictionary to dataframe
train = pd.DataFrame.from_dict(dict_train, orient='index')
train.reset_index(level=0, inplace=True)

Mam nadzieję, że to pomoże :)

Rishu
źródło
1
Błąd. Powinieneś przekazać zawartość pliku (tj. Ciąg znaków) do json.loads (), a nie sam obiekt pliku - json.load (train_file.read ())
Vasin Yuriy
13

Możesz najpierw zaimportować dane json do słownika Pythona:

data = json.loads(elevations)

Następnie modyfikuj dane w locie:

for result in data['results']:
    result[u'lat']=result[u'location'][u'lat']
    result[u'lng']=result[u'location'][u'lng']
    del result[u'location']

Przebuduj ciąg JSON:

elevations = json.dumps(data)

Wreszcie :

pd.read_json(elevations)

Możesz również prawdopodobnie uniknąć zrzucania danych z powrotem do ciągu, zakładam, że Panda może bezpośrednio utworzyć DataFrame ze słownika (nie używałem go od dłuższego czasu: p)

Raphaël Braud
źródło
Nadal otrzymuję ten sam wynik, używając danych json i utworzonego słownika. Wygląda na to, że każdy element w ramce danych ma swój własny dykt. Próbowałem użyć twojego podejścia w mniej atrakcyjny sposób, budując oddzielną listę dla szerokości geograficznej, lng i wysokości podczas iteracji po „danych”.
pbreach
@ user2593236: Witam, popełniłem błąd podczas kopiowania / wklejania kodu w SO: brakowało del (edytowana odpowiedź)
Raphaël Braud
Hmm ... Wciąż to samo, gdzie ma „wyniki” i „stan” jako nagłówki, podczas gdy reszta danych json pojawia się jako dykty w każdej komórce. Myślę, że rozwiązaniem tego problemu byłaby zmiana formatu danych tak, aby nie były podzielone na „wyniki” i „stan”, wtedy ramka danych użyje „lat”, „lng”, „wysokości”, „ resolution ”jako oddzielne nagłówki. Albo to, albo będę musiał znaleźć sposób na załadowanie danych json do ramki danych, która będzie miała wielopoziomowy indeks nagłówka, jak wspomniałem w pytaniu.
pbreach
Którego stołu finałowego oczekujesz? Ten, który dostałeś po edycji?
Raphaël Braud
Ten, który otrzymałem po ostatniej edycji, spełnia swoje zadanie, w zasadzie wszystko, czego potrzebowałem, to uzyskać dane w formacie tabelarycznym, który mogę wyeksportować i pracować z nim
pbreach
9

Tylko nowa wersja zaakceptowanej odpowiedzi, ponieważ python3.xnie obsługujeurllib2

from requests import request
import json
from pandas.io.json import json_normalize

path1 = '42.974049,-81.205203|42.974298,-81.195755'
response=request(url='http://maps.googleapis.com/maps/api/elevation/json?locations='+path1+'&sensor=false', method='get')
elevations = response.json()
elevations
data = json.loads(elevations)
json_normalize(data['results'])
AB Abhi
źródło
4

Problem polega na tym, że masz kilka kolumn w ramce danych, które zawierają dykty z mniejszymi w nich dyktami. Przydatne Json jest często mocno zagnieżdżone. Pisałem małe funkcje, które wyciągają potrzebne informacje do nowej kolumny. W ten sposób mam to w formacie, którego chcę używać.

for row in range(len(data)):
    #First I load the dict (one at a time)
    n = data.loc[row,'dict_column']
    #Now I make a new column that pulls out the data that I want.
    data.loc[row,'new_column'] = n.get('key')
billmanH
źródło
4

Optymalizacja zaakceptowanej odpowiedzi:

Zaakceptowana odpowiedź ma pewne problemy z funkcjonowaniem, więc chcę udostępnić mój kod, który nie opiera się na urllib2:

import requests
from pandas.io.json import json_normalize
url = 'https://www.energidataservice.dk/proxy/api/datastore_search?resource_id=nordpoolmarket&limit=5'

r = requests.get(url)
dictr = r.json()
recs = dictr['result']['records']
df = json_normalize(recs)
print(df)

Wynik:

        _id                    HourUTC               HourDK  ... ElbasAveragePriceEUR  ElbasMaxPriceEUR  ElbasMinPriceEUR
0    264028  2019-01-01T00:00:00+00:00  2019-01-01T01:00:00  ...                  NaN               NaN               NaN
1    138428  2017-09-03T15:00:00+00:00  2017-09-03T17:00:00  ...                33.28              33.4              32.0
2    138429  2017-09-03T16:00:00+00:00  2017-09-03T18:00:00  ...                35.20              35.7              34.9
3    138430  2017-09-03T17:00:00+00:00  2017-09-03T19:00:00  ...                37.50              37.8              37.3
4    138431  2017-09-03T18:00:00+00:00  2017-09-03T20:00:00  ...                39.65              42.9              35.3
..      ...                        ...                  ...  ...                  ...               ...               ...
995  139290  2017-10-09T13:00:00+00:00  2017-10-09T15:00:00  ...                38.40              38.4              38.4
996  139291  2017-10-09T14:00:00+00:00  2017-10-09T16:00:00  ...                41.90              44.3              33.9
997  139292  2017-10-09T15:00:00+00:00  2017-10-09T17:00:00  ...                46.26              49.5              41.4
998  139293  2017-10-09T16:00:00+00:00  2017-10-09T18:00:00  ...                56.22              58.5              49.1
999  139294  2017-10-09T17:00:00+00:00  2017-10-09T19:00:00  ...                56.71              65.4              42.2 

PS: API dotyczy duńskich cen energii elektrycznej

DisabledWhale
źródło
3

Oto mała klasa narzędziowa, która konwertuje JSON na DataFrame iz powrotem: Mam nadzieję, że okaże się to pomocne.

# -*- coding: utf-8 -*-
from pandas.io.json import json_normalize

class DFConverter:

    #Converts the input JSON to a DataFrame
    def convertToDF(self,dfJSON):
        return(json_normalize(dfJSON))

    #Converts the input DataFrame to JSON 
    def convertToJSON(self, df):
        resultJSON = df.to_json(orient='records')
        return(resultJSON)
Siva
źródło
1

Rozwiązanie billmanH pomogło mi, ale nie działało, dopóki nie przełączyłem się z:

n = data.loc[row,'json_column']

do:

n = data.iloc[[row]]['json_column']

oto reszta. Konwersja do słownika jest pomocna przy pracy z danymi json.

import json

for row in range(len(data)):
    n = data.iloc[[row]]['json_column'].item()
    jsonDict = json.loads(n)
    if ('mykey' in jsonDict):
        display(jsonDict['mykey'])
niltoid
źródło
1
#Use the small trick to make the data json interpret-able
#Since your data is not directly interpreted by json.loads()

>>> import json
>>> f=open("sampledata.txt","r+")
>>> data = f.read()
>>> for x in data.split("\n"):
...     strlist = "["+x+"]"
...     datalist=json.loads(strlist)
...     for y in datalist:
...             print(type(y))
...             print(y)
...
...
<type 'dict'>
{u'0': [[10.8, 36.0], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'1': [[10.8, 36.1], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'2': [[10.8, 36.2], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'3': [[10.8, 36.300000000000004], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'4': [[10.8, 36.4], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'5': [[10.8, 36.5], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'6': [[10.8, 36.6], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'7': [[10.8, 36.7], {u'10': 0, u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'8': [[10.8, 36.800000000000004], {u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}
<type 'dict'>
{u'9': [[10.8, 36.9], {u'1': 0, u'0': 0, u'3': 0, u'2': 0, u'5': 0, u'4': 0, u'7': 0, u'6': 0, u'9': 0, u'8': 0}]}

MIKHIL NAGARALE
źródło
1

Po spłaszczeniu DataFrameuzyskanym przez zaakceptowaną odpowiedź możesz zmienić kolumny w MultiIndex(„fantazyjny nagłówek wielowierszowy”) w następujący sposób:

df.columns = pd.MultiIndex.from_tuples([tuple(c.split('.')) for c in df.columns])
loganbvh
źródło