Rスクリプトの実行
ファイル名の引数を取り、行を合計するRスクリプトを作成しました。
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))
これは、次のように「data.table」または「vroom」パッケージで高速化できます。
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))
ベンチマーク
@glenn jackmanと同じベンチマークデータ。
for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers
上記のR呼び出しと比較して、R 3.5.0をスクリプトとして実行することは、他の方法(同じLinux Debianサーバー上)に匹敵します。
$ time R -e 'sum(scan("random_numbers"))'
0.37s user
0.04s system
86% cpu
0.478 total
readLinesを使用したRスクリプト
$ time Rscript sum.R random_numbers
0.53s user
0.04s system
84% cpu
0.679 total
data.tableを含むRスクリプト
$ time Rscript sum.R random_numbers
0.30s user
0.05s system
77% cpu
0.453 total
vroomを使用したRスクリプト
$ time Rscript sum.R random_numbers
0.54s user
0.11s system
93% cpu
0.696 total
他の言語との比較
同じハードウェアで提案されている他のいくつかの方法としての参照用
Python 2(2.7.13)
$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers
0.27s user 0.00s system 89% cpu 0.298 total
Python 3(3.6.8)
$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total
Ruby(2.3.3)
$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
0.42s user
0.03s system
72% cpu
0.625 total
Perl(5.24.1)
$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
0.24s user
0.01s system
99% cpu
0.249 total
awk(4.1.4)
$ time awk '{ sum += $0 } END { print sum }' random_numbers
0.26s user
0.01s system
99% cpu
0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
0.34s user
0.01s system
99% cpu
0.354 total
C(clangバージョン3.3; gcc(Debian 6.3.0-18)6.3.0)
$ gcc sum.c -o sum && time ./sum < random_numbers
0.10s user
0.00s system
96% cpu
0.108 total
追加の言語で更新する
ルア(5.3.5)
$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
0.30s user
0.01s system
98% cpu
0.312 total
tr(8.26)はbashでタイミングをとる必要があり、zshと互換性がありません
$time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
real 0m0.494s
user 0m0.488s
sys 0m0.044s
sed(4.4)はbashでタイミングをとる必要があり、zshと互換性がありません
$ time { head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real 0m0.631s
user 0m0.628s
sys 0m0.008s
$ time { head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real 1m2.593s
user 1m2.588s
sys 0m0.012s
注:sed呼び出しは、より多くのメモリが利用可能なシステムでより高速に動作するようです(sedのベンチマークに使用される小さなデータセットに注意)
ジュリア(0.5.0)
$ time julia -e 'print(sum(readdlm("random_numbers")))'
3.00s user
1.39s system
136% cpu
3.204 total
$ time julia -e 'print(sum(readtable("random_numbers")))'
0.63s user
0.96s system
248% cpu
0.638 total
Rと同様に、ファイルI / Oメソッドのパフォーマンスは異なります。