Jak mogę szybko zsumować wszystkie liczby w pliku?

194

Mam plik, który zawiera kilka tysięcy liczb, każda w osobnej linii:

34
42
11
6
2
99
...

Chcę napisać skrypt, który wydrukuje sumę wszystkich liczb w pliku. Mam rozwiązanie, ale nie jest zbyt wydajne. (Uruchomienie zajmuje kilka minut.) Szukam bardziej wydajnego rozwiązania. Jakieś sugestie?

Mark Roberts
źródło
5
Jakie było twoje wolne rozwiązanie? Może pomożemy Ci dowiedzieć się, co było powolne. :)
brian d foy,
4
@brian d foy, jestem zbyt zawstydzony, żeby to opublikować. Wiem dlaczego jest wolny. To dlatego, że nazywam „cat filename | head -n 1”, aby uzyskać najwyższy numer, dodaj go do bieżącej sumy i nazywam „cat filename | tail ...”, aby usunąć górny wiersz na następną iterację ... I dużo się nauczyć o programowaniu !!!
Mark Roberts
6
To ... bardzo systematyczne. Bardzo jasne i bezpośrednie, i uwielbiam to, że to okropna obrzydliwość. Zbudowany, jak sądzę, z narzędzi, które znałeś na początku, prawda?
dmckee --- były moderator kociak
4
pełny duplikat: stackoverflow.com/questions/450799/…
codeholic
@MarkRoberts Musiało to zająć dużo czasu, aby to wypracować. To bardzo trywialna technika rozwiązywania problemów i o tak źle. Wygląda jak klasyczny przypadek przemyślenia. Kilka rozwiązań Glen Jackman dotyczących skryptowania powłoki (a dwa z nich to czysta powłoka, która nie używa takich rzeczy jak awki bc). Wszystkie zakończyły dodawanie miliona numerów w mniej niż 10 sekund. Spójrz na nie i zobacz, jak można to zrobić w czystej powłoce.
David W.

Odpowiedzi:

113

W przypadku liniowej wersji Perla jest to w zasadzie to samo, co awkrozwiązanie w odpowiedzi Aymana Hourieha :

 % perl -nle '$sum += $_ } END { print $sum'

Jeśli jesteś ciekawy, co robią liniowce Perla, możesz je wyodrębnić:

 %  perl -MO=Deparse -nle '$sum += $_ } END { print $sum'

Rezultatem jest bardziej szczegółowa wersja programu, w formie, której nikt nigdy nie napisałby samodzielnie:

BEGIN { $/ = "\n"; $\ = "\n"; }
LINE: while (defined($_ = <ARGV>)) {
    chomp $_;
    $sum += $_;
}
sub END {
    print $sum;
}
-e syntax OK

Tylko na chichoty próbowałem tego z plikiem zawierającym 1 000 000 liczb (w zakresie 0 - 9 999). Na moim Macu Pro powraca praktycznie natychmiast. Szkoda, bo miałem nadzieję, że użycie mmapbędzie naprawdę szybkie, ale to w tym samym czasie:

use 5.010;
use File::Map qw(map_file);

map_file my $map, $ARGV[0];

$sum += $1 while $map =~ m/(\d+)/g;

say $sum;
Brian D. Foy
źródło
4
Wow, to pokazuje głębokie zrozumienie tego, jaki kod faktycznie owija się wokół podanego ci ciągu. Początkowo myślałem, że nie powinieneś pisać, kiedy jesteś pod wpływem alkoholu, ale potem zauważyłem, kim jesteś i przypomniałem sobie niektóre z twoich innych odpowiedzi na Perla :-)
paxdiablo
-n i -p po prostu umieszczaj znaki wokół argumentu na -e, abyś mógł używać tych znaków do wszystkiego, co chcesz. Mamy wiele jednowierszowych, które robią ciekawe rzeczy z tym w Efektywnym programowaniu w Perlu (który ma wkrótce trafić na półki).
brian d foy,
5
Fajnie, o co chodzi z tymi niepasującymi nawiasami klamrowymi?
Frank
17
-n dodaje while { }pętlę wokół twojego programu. Jeśli włożysz do } ... {środka, to masz while { } ... { }. Zło? Nieco.
jrockway
5
Duży bonus za wyróżnienie -MO=Deparseopcji! Mimo że na osobny temat.
conny
374

Możesz użyć awk:

awk '{ sum += $1 } END { print sum }' file
Ayman Hourieh
źródło
3
program przekroczony: maksymalna liczba rozmiarów pól: 32767
leef
1
Z -F '\t'opcją, jeśli pola zawierają spacje i są oddzielone tabulatorami.
Ethan Furman
5
Oznacz to jako najlepszą odpowiedź. Działa również, jeśli chcesz zsumować pierwszą wartość w każdym wierszu w pliku TSV (wartość oddzielona tabulatorami).
Andrea
99

Żadne z dotychczasowych rozwiązań nie jest używane paste. Tu jest jeden:

paste -sd+ filename | bc

Jako przykład obliczyć Σn, gdzie 1 <= n <= 100000:

$ seq 100000 | paste -sd+ | bc -l
5000050000

(Dla ciekawskich seq nwydrukuje ciąg liczb od 1do npodanej liczby dodatniej n).

diabelnie
źródło
1
Bardzo dobrze! I łatwe do zapamiętania
Brendan Maguire
1
seq 100000 | paste -sd+ - | bc -lw powłoce Bash Mac OS X. A to zdecydowanie najsłodsze i najbardziej unikalne rozwiązanie!
Simo A.,
1
@SimoA. Głosuję, że używamy terminu unixiest zamiast unixest, ponieważ do najseksowniejszego rozwiązania jest zawsze najbardziej unixest;)
Connor
86

Dla zabawy porównajmy to:

$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392

real    0m0.226s
user    0m0.219s
sys     0m0.002s

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392

real    0m0.311s
user    0m0.304s
sys     0m0.005s

$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392

real    0m0.445s
user    0m0.438s
sys     0m0.024s

$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392

real    0m9.309s
user    0m8.404s
sys     0m0.887s

$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392

real    0m7.191s
user    0m6.402s
sys     0m0.776s

$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C

real    4m53.413s
user    4m52.584s
sys 0m0.052s

Przerwałem bieg sed po 5 minutach


Nurkowałem do i jest szybki:

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0

real    0m0.362s
user    0m0.313s
sys     0m0.063s

i podczas aktualizacji: ruby:

$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582

real    0m0.378s
user    0m0.297s
sys     0m0.078s

Posłuchaj porady Eda Mortona: za pomocą $1

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582

real    0m0.421s
user    0m0.359s
sys     0m0.063s

vs używanie $0

$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582

real    0m0.302s
user    0m0.234s
sys     0m0.063s
Glenn Jackman
źródło
18
+1: Za wymyślenie szeregu rozwiązań i przetestowanie ich.
David W.
czas kot losowe numery | wklej -sd + | bc -l prawdziwe 0m0.317s użytkownik 0m0.310s sys 0m0.013s
rafi wiener
powinno to być prawie identyczne z trrozwiązaniem.
glenn jackman
4
Twój skrypt awk powinien działać nieco szybciej, jeśli używasz $0zamiast tego, $1ponieważ awk dokonuje podziału pola (co oczywiście zajmuje czas), jeśli jakieś pole jest wyraźnie wymienione w skrypcie, ale nie robi tego inaczej.
Ed Morton
20

Inną opcją jest użycie jq:

$ seq 10|jq -s add
55

-s( --slurp) odczytuje linie wejściowe do tablicy.

nisetama
źródło
1
To niesamowite narzędzie do takich szybkich zadań, prawie o tym zapomniałem. dzięki
Jan
9

To jest proste Bash:

sum=0
while read -r line
do
    (( sum += line ))
done < file
echo $sum
Wstrzymano do odwołania.
źródło
2
Jest to prawdopodobnie jedno z najwolniejszych rozwiązań, dlatego też nie jest odpowiednie dla dużych liczb.
David
7

Oto kolejna linijka

( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc

Zakłada się, że liczby są liczbami całkowitymi. Jeśli potrzebujesz miejsc po przecinku, spróbuj

( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc

Dostosuj 2 do wymaganej liczby miejsc po przecinku.

lhf
źródło
6

Wolę używać GNU datamash do takich zadań, ponieważ jest bardziej zwięzły i czytelny niż perl lub awk. Na przykład

datamash sum 1 < myfile

gdzie 1 oznacza pierwszą kolumnę danych.

hertzsprung
źródło
1
To nie wydaje się być standardowym składnikiem, ponieważ nie widzę go w mojej instalacji Ubuntu. Chciałbym jednak, aby został przetestowany.
Steven the Easy Amused
5
$ perl -MList::Util=sum -le 'print sum <>' nums.txt
Zaid
źródło
5

Wolę użyć do tego R:

$ R -e 'sum(scan("filename"))'
fedorn
źródło
Jestem fanem R dla innych aplikacji, ale nie jest to dobre dla wydajności w ten sposób. Plik I / O jest poważnym problemem. Testowałem przekazywanie argumentów do skryptu, który można przyspieszyć za pomocą pakietu vroom. Opublikuję więcej szczegółów, kiedy przeprowadzę testy porównawcze innych skryptów na tym samym serwerze.
Tom Kelly
4
cat nums | perl -ne '$sum += $_ } { print $sum'

(to samo co odpowiedź Briana d Foy'a, bez „END”)

edibleEnergy
źródło
Podoba mi się to, ale czy możesz wyjaśnić nawiasy klamrowe? Dziwnie jest widzieć bez {i odwrotnie.
drumfire

1
@drumfire patrz odpowiedź @brian d foy powyżej, perl -MO=Deparseaby zobaczyć, jak perl analizuje program. lub dokumenty dla perlrun: perldoc.perl.org/perlrun.html (wyszukaj -n). perl otacza twój kod {} jeśli użyjesz -n, aby stał się kompletnym programem.
edibleEnergy
4

Bardziej zwięzłe:

# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'

# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'
Vidul
źródło
Konwersja na float wydaje się być około dwa razy szybsza w moim systemie (320 vs 640 ms). time python -c "print(sum([float(s) for s in open('random_numbers','r')]))"
user12719
4

Perl 6

say sum lines
~$ perl6 -e '.say for 0..1000000' > test.in

~$ perl6 -e 'say sum lines' < test.in
500000500000
Brad Gilbert
źródło
3

Dla zabawy, zróbmy to dzięki PDL , silnikowi matematycznemu Perla!

perl -MPDL -E 'say rcols(shift)->sum' datafile

rcolswczytuje kolumny do macierzy (w tym przypadku 1D) i sum(niespodzianka) sumuje cały element macierzy.

Joel Berger
źródło
Jak naprawić Nie można zlokalizować PDL.pm w @INC (może być konieczne zainstalowanie modułu PDL) (@INC zawiera: / etc / perl /usr/local/lib/x86_64-linux-gnu/perl/5.22.1? )) dla zabawy oczywiście =)
Fortran
1
Najpierw musisz zainstalować PDL, to nie jest natywny moduł Perla.
Joel Berger
3

Oto rozwiązanie wykorzystujące Python z wyrażeniem generatora. Testowany z milionem numerów na moim starym, grubym laptopie.

time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file

real    0m0.619s
user    0m0.512s
sys     0m0.028s
dwurf
źródło
3
Proste zrozumienie listy z nazwaną funkcją jest dobrym przykładem użycia dla map():map(float, sys.stdin)
sevko
3

Nie mogłem tak po prostu przejść ... Oto mój liniowiec Haskell. Jest właściwie całkiem czytelny:

sum <$> (read <$>) <$> lines <$> getContents

Niestety nie ma ghci -epo prostu go uruchomić, więc potrzebuje głównej funkcji, drukowania i kompilacji.

main = (sum <$> (read <$>) <$> lines <$> getContents) >>= print

Aby to wyjaśnić, odczytujemy cały input ( getContents), dzielimy na lines, readjako liczby i sum. <$>jest fmapoperatorem - używamy go zamiast zwykłej aplikacji funkcji, ponieważ na pewno wszystko to dzieje się w IO. readpotrzebuje dodatkowego fmap, ponieważ znajduje się również na liście.

$ ghc sum.hs
[1 of 1] Compiling Main             ( sum.hs, sum.o )
Linking sum ...
$ ./sum 
1
2
4
^D
7

Oto dziwne ulepszenie, aby działało z liczbami zmiennoprzecinkowymi:

main = ((0.0 + ) <$> sum <$> (read <$>) <$> lines <$> getContents) >>= print
$ ./sum 
1.3
2.1
4.2
^D
7.6000000000000005
Peter K.
źródło
2
sed ':a;N;s/\n/+/;ta' file|bc
ghostdog74
źródło
2

Uruchamianie skryptów R.

Napisałem skrypt R, który pobiera argumenty nazwy pliku i sumuje linie.

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))

Można to przyspieszyć za pomocą pakietu „data.table” lub „vroom” w następujący sposób:

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))

Benchmarking

Te same dane z testów porównawczych jak @glenn jackman .

for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

W porównaniu do powyższego wywołania R, uruchomienie R 3.5.0 jako skryptu jest porównywalne z innymi metodami (na tym samym serwerze Linux Debian).

$ time R -e 'sum(scan("random_numbers"))'  
 0.37s user
 0.04s system
 86% cpu
 0.478 total

Skrypt R z readLines

$ time Rscript sum.R random_numbers
  0.53s user
  0.04s system
  84% cpu
  0.679 total

Skrypt R z tabelą danych

$ time Rscript sum.R random_numbers     
 0.30s user
 0.05s system
 77% cpu
 0.453 total

Skrypt R z vroom

$ time Rscript sum.R random_numbers     
  0.54s user 
  0.11s system
  93% cpu
  0.696 total

Porównanie z innymi językami

Dla odniesienia tutaj, jak niektóre inne metody sugerowane na tym samym sprzęcie

Python 2 (2.7.13)

$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers 
 0.27s user 0.00s system 89% cpu 0.298 total

Python 3 (3.6.8)

$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total

Rubin (2.3.3)

$  time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
 0.42s user
 0.03s system
 72% cpu
 0.625 total

Perl (5.24.1)

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
 0.24s user
 0.01s system
 99% cpu
 0.249 total

Awk (4.1.4)

$ time awk '{ sum += $0 } END { print sum }' random_numbers
 0.26s user
 0.01s system
 99% cpu
 0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
 0.34s user
 0.01s system
 99% cpu
 0.354 total

C (wersja clang 3.3; gcc (Debian 6.3.0-18) 6.3.0)

 $ gcc sum.c -o sum && time ./sum < random_numbers   
 0.10s user
 0.00s system
 96% cpu
 0.108 total

Zaktualizuj o dodatkowe języki

Lua (5.3.5)

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers 
 0.30s user 
 0.01s system
 98% cpu
 0.312 total

tr (8.26) musi być mierzony w bash, niekompatybilny z zsh

$time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
real    0m0.494s
user    0m0.488s
sys 0m0.044s

sed (4.4) musi być mierzony w bash, niekompatybilny z zsh

$  time { head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    0m0.631s
user    0m0.628s
sys     0m0.008s
$  time { head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    1m2.593s
user    1m2.588s
sys     0m0.012s

Uwaga: wywołania sed wydają się działać szybciej w systemach z większą dostępną pamięcią (zwróć uwagę na mniejsze zestawy danych używane do testowania sed)

Julia (0,5.0)

$ time julia -e 'print(sum(readdlm("random_numbers")))'
 3.00s user 
 1.39s system 
 136% cpu 
 3.204 total
$  time julia -e 'print(sum(readtable("random_numbers")))'
 0.63s user 
 0.96s system 
 248% cpu 
 0.638 total

Zauważ, że podobnie jak w R, metody we / wy pliku mają różną wydajność.

Tom Kelly
źródło
2

C ++ „one-liner”:

#include <iostream>
#include <iterator>
#include <numeric>
using namespace std;

int main() {
    cout << accumulate(istream_iterator<int>(cin), istream_iterator<int>(), 0) << endl;
}
Peter K.
źródło
1

Kolejna dla zabawy

sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum

lub tylko inny bash

s=0;while read l; do s=$((s+$l));done<file;echo $s

Ale rozwiązanie awk jest prawdopodobnie najlepsze, ponieważ jest najbardziej kompaktowe.

nickjb
źródło
1

C zawsze wygrywa z prędkością:

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    ssize_t read;
    char *line = NULL;
    size_t len = 0;
    double sum = 0.0;

    while (read = getline(&line, &len, stdin) != -1) {
        sum += atof(line);
    }

    printf("%f", sum);
    return 0;
}

Czas dla numerów 1M (ta sama maszyna / dane wejściowe, co moja odpowiedź w pythonie):

$ gcc sum.c -o sum && time ./sum < numbers 
5003371677.000000
real    0m0.188s
user    0m0.180s
sys     0m0.000s
dwurf
źródło
1
Najlepsza odpowiedź! Najlepsza prędkość)
Fortran
1

Z Ruby:

ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"
strony
źródło
Inną opcją (gdy wejście jest z STDIN) jest ruby -e'p readlines.map(&:to_f).reduce(:+)'.
nisetama
0

Nie wiem, czy możesz uzyskać o wiele lepsze wyniki, biorąc pod uwagę, że musisz przeczytać cały plik.

$sum = 0;
while(<>){
   $sum += $_;
}
print $sum;
Stefan Kendall
źródło
1
Bardzo czytelny. Perl. Ale tak, to musi być coś takiego ...
dmckee --- były moderator kotek
$_jest zmienną domyślną. Operator wprowadzania liniowego <>domyślnie umieszcza jego wynik, gdy używasz <>w while.
brian d foy,
1
@Mark, $_jest zmienną tematu - działa jak „it”. W takim przypadku <> przypisuje się do niego każdą linię. Wykorzystuje się go w wielu miejscach, aby zmniejszyć bałagan w kodzie i pomóc w pisaniu jednowarstwowych. Skrypt mówi „Ustaw sumę na 0, przeczytaj każdy wiersz i dodaj ją do sumy, a następnie wydrukuj sumę”.
daotoad
1
@Stefan, przy wyłączonych ostrzeżeniach i ograniczeniach, możesz pominąć deklarowanie i inicjowanie $sum. Ponieważ jest to tak proste, możesz nawet użyć modyfikatora instrukcji while:$sum += $_ while <>; print $sum;
daotoad
0

Nie przetestowałem tego, ale powinno działać:

cat f | tr "\n" "+" | sed 's/+$/\n/' | bc

Być może będziesz musiał dodać „\ n” do ciągu przed bc (jak za pomocą echa), jeśli bc nie traktuje EOF i EOL ...

DVK
źródło
2
To nie działa bcwydaje błąd składniowy z powodu końcowego „+” i braku znaku nowej linii na końcu. Działa to i eliminuje bezużyteczne użycie cat: { tr "\n" "+" | sed 's/+$/\n/'| bc; } < numbers2.txt lub <numbers2.txt tr "\n" "+" | sed 's/+$/\n/'| bc
Wstrzymano do odwołania.
tr "\n" "+" <file | sed 's/+$/\n/' | bc
ghostdog74 24.04.2010
0

Oto kolejna:

open(FIL, "a.txt");

my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}

close(FIL);

print "Sum = $sum\n";
ruben2020
źródło
0

Możesz to zrobić za pomocą Alacon - narzędzia wiersza polecenia dla bazy danych Alasql .

Działa z Node.js, więc musisz zainstalować Node.js, a następnie pakiet Alasql :

Aby obliczyć sumę z pliku TXT, możesz użyć następującego polecenia:

> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"
agershun
źródło
0

Nie jest łatwiej zastąpić wszystkie nowe wiersze +, dodać a 0i wysłać do Rubytłumacza?

(sed -e "s/$/+/" file; echo 0)|irb

Jeśli nie masz irb, możesz wysłać go na bcadres, ale musisz usunąć wszystkie nowe wiersze z wyjątkiem ostatniego (z echo). Lepiej jest do tego użyć tr, chyba że masz doktorat sed.

(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
Daniel Porumbel
źródło
0

In Go:

package main

import (
    "bufio"
    "fmt"
    "os"
    "strconv"
)

func main() {
    scanner := bufio.NewScanner(os.Stdin)
    sum := int64(0)
    for scanner.Scan() {
        v, err := strconv.ParseInt(scanner.Text(), 10, 64)
        if err != nil {
            fmt.Fprintf(os.Stderr, "Not an integer: '%s'\n", scanner.Text())
            os.Exit(1)
        }
        sum += v
    }
    fmt.Println(sum)
}
dwurf
źródło
Co to jest „64”? „10” Przypuszczam, że to podstawa?
Peter K
Tak, podstawa to 10. 64 to liczba bitów, jeśli wynikowy int nie może być reprezentowany przez tak wiele bitów, wówczas zwracany jest błąd. Zobacz golang.org/pkg/strconv/#ParseInt
dwurf
0

Wariant Bash

raw=$(cat file)
echo $(( ${raw//$'\n'/+} ))

$ wc -l file
10000 file

$ time ./test
323390

real    0m3,096s
user    0m3,095s
sys     0m0,000s
Ivan
źródło
0

W powłoce używającej awk użyłem do tego poniższego skryptu:

    #!/bin/bash


total=0;

for i in $( awk '{ print $1; }' <myfile> )
do
 total=$(echo $total+$i | bc )
 ((count++))
done
echo "scale=2; $total " | bc
Shiwangini
źródło