Konwertuj dane wyjściowe polecenia drzewa na format json

10

Czy istnieje wygodny sposób na konwersję danych wyjściowych polecenia „drzewo” * nix do formatu JSON?

Edycja: Myślę, że nie opisałem wystarczająco dobrze mojego problemu. Moim celem jest konwersja czegoś takiego:

.
|-- dir1
|   |-- dirA
|   |   |-- dirAA
|   |   `-- dirBB
|   `-- dirB
`-- dir2
    |-- dirA
    `-- dirB

w:

{"dir1" : [{"dirA":["dirAA", "dirAB"]}, "dirB"], "dir2": ["dirA", "dirB"]}
roundrobin
źródło
Jak można oczekiwać, że jest to zamknięte w JSON? Czy możesz podać przykład i oczekiwane wyniki?
Drav Sloan,
@DravSloan Zredagowałem post, aby pokazać przykład
roundrobin
Czego byś oczekiwał, gdyby dir1/dirAmiał podkatalogi?
cjm
{"dir1" : [{"dirA":["dirAA", "dirAB"]}, "dirB"], "dir2": ["dirA", "dirB"]}
roundrobin
@BausTheBig - Nie sądzę, że przemyślałeś to do końca. treePolecenie nie jest odpowiednim narzędziem. I może być skłonny zrobić ls -Ralbo findzamiast.
slm

Odpowiedzi:

6

Próba 1

Rozwiązanie wykorzystujące tylko perl, zwracające prosty skrót struktury haszującej. Przed PO wyjaśniono format danych JSON.

#! /usr/bin/perl

use File::Find;
use JSON;

use strict;
use warnings;

my $dirs={};
my $encoder = JSON->new->ascii->pretty;

find({wanted => \&process_dir, no_chdir => 1 }, ".");
print $encoder->encode($dirs);

sub process_dir {
    return if !-d $File::Find::name;
    my $ref=\%$dirs;
    for(split(/\//, $File::Find::name)) {
        $ref->{$_} = {} if(!exists $ref->{$_});
        $ref = $ref->{$_};
    }
}

File::Findmoduł działa w podobny sposób jak findpolecenie unix . JSONModuł zajmuje zmienne Perl i konwertuje je do formatu JSON.

find({wanted => \&process_dir, no_chdir => 1 }, ".");

Powtórzy strukturę pliku z obecnego katalogu roboczego, wywołując podprogram process_dirdla każdego pliku / katalogu pod „.”, I no_chdirpowiedz perlowi, aby nie wydawał a chdir()dla każdego znalezionego katalogu.

process_dir zwraca, jeśli obecny badany plik nie jest katalogiem:

return if !-d $File::Find::name;

Następnie zbieramy odniesienie do istniejącego skrótu %$dirsna $ref, dzielimy ścieżkę pliku /i zapętlamy, fordodając nowy klucz skrótu dla każdej ścieżki.

Utworzenie struktury katalogów takiej jak slm:

mkdir -p dir{1..5}/dir{A,B}/subdir{1..3}

Dane wyjściowe to:

{
   "." : {
      "dir3" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir2" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir5" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir1" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir4" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      }
   }
}

Próba 2

OK, teraz z inną strukturą danych ...

#! /usr/bin/perl

use warnings;
use strict;
use JSON;

my $encoder = JSON->new->ascii->pretty;   # ascii character set, pretty format
my $dirs;                                 # used to build the data structure

my $path=$ARGV[0] || '.';                 # use the command line arg or working dir

# Open the directory, read in the file list, grep out directories and skip '.' and '..'
# and assign to @dirs
opendir(my $dh, $path) or die "can't opendir $path: $!";
my @dirs = grep { ! /^[.]{1,2}/ && -d "$path/$_" } readdir($dh);
closedir($dh);

# recurse the top level sub directories with the parse_dir subroutine, returning
# a hash reference.
%$dirs = map { $_ => parse_dir("$path/$_") } @dirs;

# print out the JSON encoding of this data structure
print $encoder->encode($dirs);

sub parse_dir {
    my $path = shift;    # the dir we're working on

    # get all sub directories (similar to above opendir/readdir calls)
    opendir(my $dh, $path) or die "can't opendir $path: $!";
    my @dirs = grep { ! /^[.]{1,2}/ && -d "$path/$_" } readdir($dh);
    closedir($dh);

    return undef if !scalar @dirs; # nothing to do here, directory empty

    my $vals = [];                            # set our result to an empty array
    foreach my $dir (@dirs) {                 # loop the sub directories         
        my $res = parse_dir("$path/$dir");    # recurse down each path and get results

        # does the returned value have a result, and is that result an array of at 
        # least one element, then add these results to our $vals anonymous array 
        # wrapped in a anonymous hash
        # ELSE
        # push just the name of that directory our $vals anonymous array
        push(@$vals, (defined $res and scalar @$res) ? { $dir => $res } : $dir);
    }

    return $vals;  # return the recursed result
}

A następnie uruchomienie skryptu na proponowanej strukturze katalogów ...

./tree2json2.pl .
{
   "dir2" : [
      "dirB",
      "dirA"
   ],
   "dir1" : [
      "dirB",
      {
         "dirA" : [
            "dirBB",
            "dirAA"
         ]
      }
   ]
}

Uważam, że to cholernie trudne do zrobienia (szczególnie biorąc pod uwagę logikę „hash, jeśli podkatalogi, tablica, jeśli nie, OH UNLESS najwyższy poziom, to i tak po prostu hash”). Byłbym zaskoczony, gdyby to było coś, co można zrobić z sed/ awk... ale Stephane jeszcze na to nie spojrzał, założę się :)

Drav Sloan
źródło
Och, format sub-katalogów jest teraz nieco inny, czy powyższy format wyjściowy będzie problemem?
Drav Sloan,
Tak, sam kręciłem się w tym formacie. Nie jestem pewien, czy jest to standard w jakikolwiek sposób, nie mogę znaleźć wiele z półki, która to zapewni, ale twoje podejście jest zdecydowaną poprawą.
slm
Czy robisz z tym jakieś postępy? 8-)
slm
Zostałem śledzony przez stronę z slm-ascii-network-a-gram na innym pytaniu (pit stop, ponieważ ten kręciło mi się w głowie). Zrobię cuppa, aby skorygować stosunek caffiene / blood i spojrzę jeszcze raz.
Drav Sloan,
asciio to narzędzie do tworzenia em
slm
13

Wersja 1.7 zawiera obsługę JSON:
http://mama.indstate.edu/users/ice/tree/changes.html

Na manstronie (poniżej XML/JSON/HTML OPTIONS):

-J     Turn on JSON output. Outputs the directory tree as an JSON formatted array.

na przykład

$ tree -J                                                                                                 

/home/me/trash/tree-1.7.0
[{"type":"directory","name": ".","contents":[
    {"type":"file","name":"CHANGES"},
    {"type":"file","name":"color.c"},
    {"type":"file","name":"color.o"},
    {"type":"directory","name":"doc","contents":[
      {"type":"file","name":"tree.1"},
      {"type":"file","name":"tree.1.fr"},
      {"type":"file","name":"xml.dtd"}
    ]},
    {"type":"file","name":"hash.c"},
    {"type":"file","name":"hash.o"},
    {"type":"file","name":"html.c"},
    {"type":"file","name":"html.o"},
    {"type":"file","name":"INSTALL"},
    {"type":"file","name":"json.c"},
    {"type":"file","name":"json.o"},
    {"type":"file","name":"LICENSE"},
    {"type":"file","name":"Makefile"},
    {"type":"file","name":"README"},
    {"type":"file","name":"strverscmp.c"},
    {"type":"file","name":"TODO"},
    {"type":"file","name":"tree"},
    {"type":"file","name":"tree.c"},
    {"type":"file","name":"tree.h"},
    {"type":"file","name":"tree.o"},
    {"type":"file","name":"unix.c"},
    {"type":"file","name":"unix.o"},
    {"type":"file","name":"xml.c"},
    {"type":"file","name":"xml.o"}
  ]},
  {"type":"report","directories":1,"files":26}
]
Sridhar Sarnobat
źródło
5

Oto jeden ze sposobów korzystania z Perla i modułu Perla JSON.

$ tree | perl -e 'use JSON; @in=grep(s/\n$//, <>); \
     print encode_json(\@in)."\n";'

Przykład

Utwórz przykładowe dane.

$ mkdir -p dir{1..5}/dir{A,B}

Oto jak to wygląda:

$ tree 
.
|-- dir1
|   |-- dirA
|   `-- dirB
|-- dir2
|   |-- dirA
|   `-- dirB
|-- dir3
|   |-- dirA
|   `-- dirB
|-- dir4
|   |-- dirA
|   `-- dirB
`-- dir5
    |-- dirA
    `-- dirB

15 directories, 0 files

Oto uruchomienie za pomocą polecenia Perl:

$ tree | perl -e 'use JSON; @in=grep(s/\n$//, <>); print encode_json(\@in)."\n";'

Który zwraca ten wynik:

[".","|-- dir1","|   |-- dirA","|   `-- dirB","|-- dir2","|   |-- dirA","|   `-- dirB","|-- dir3","|   |-- dirA","|   `-- dirB","|-- dir4","|   |-- dirA","|   `-- dirB","`-- dir5","    |-- dirA","    `-- dirB","","15 directories, 0 files"]

UWAGA: Jest to tylko enkapsulacja danych wyjściowych z tree. Nie zagnieżdżona hierarchia. OP zmieniło pytanie po tym, jak to zasugerowałem!

slm
źródło
przepraszam, myślę, że nie opisałem wystarczająco dobrze mojego problemu. Moim celem jest konwersja czegoś takiego: | - dir1 | | - dirA | | - dirB | - dir2 | | - dirA | | - katalog do: {"katalog 1": ["katalog A", "katalog B]]," katalog 2 ": [" katalog A "," katalog B]]}
roundrobin
@BausTheBig - nie ma problemu. Edytuj swoją odpowiedź i dodaj przykład tego, czego chcesz.
slm
Struktura danych, po której wydaje się być OP, wygląda jak obiekt Pythona. Nie mam prawie żadnej wiedzy o Pythonie, więc nie mogę nic na to poradzić, ale zgaduję, że tego rodzaju strukturę łatwiej tam zbudować.
terdon
@terdon - zostawiłem to Dravowi, wyglądało to jak struktura Hash of Hashes.
slm
2

Szukałem również sposobu na wyjście z drzewa folderów / plików linuksa do jakiegoś pliku JSON lub XML. Dlaczego nie skorzystać z tego prostego polecenia terminala:

tree --dirsfirst --noreport -n -X -i -s -D -f -o my.xml

Więc po prostu treepolecenie Linux i skonfiguruj własne parametry. Tutaj -Xpodaje dane wyjściowe XML. Dla mnie to w porządku i chyba jest jakiś skrypt do konwersji XML na JSON.

Roelof Berkepeis
źródło
1

Możesz spróbować tego polecenia:

tree -a -J -o *filename*

Zamień nazwę pliku na żądaną nazwę pliku wyjściowego.


źródło
Nie ma takiej flagi Jdla polecenia tree!!
Upvote: na drzewie v1.7.0 jest flaga J ... wiwaty
drl
1

To działa. https://gist.github.com/debodirno/18a21df0511775c19de8d7ccbc99cb72

import os
import sys
import json

def tree_path_json(path):
    dir_structure = {}
    base_name = os.path.basename(os.path.realpath(path))
    if os.path.isdir(path):
        dir_structure[base_name] = [ tree_path_json(os.path.join(path, file_name))\
         for file_name in os.listdir(path) ]
    else:
        return os.path.basename(path)
    return dir_structure

if len(sys.argv) > 1:
    path = sys.argv[1]
else:
    path = '.'

print json.dumps(tree_path_json(path), indent = 4, separators = (', ', ' : '))
Debodirno Chandra
źródło
Nie rozumiem
Pierre.Vriens
1
To przekształca strukturę drzewa w json. Uruchom ten kod w katalogu, a wygeneruje on plik json, jak wskazano w pytaniu.
Debodirno Chandra