10000ごとにファイルを分割する（行ではない）

次のようなファイルがあります。

chr19   61336212        +       0       0       CG      CGT    
chr19   61336213        -       0       0       CG      CGG    
chr19   61336218        +       0       0       CG      CGG    
chr19   61336219        -       0       0       CG      CGC    
chr19   61336268        +       0       0       CG      CGG    
chr19   61336269        -       0       0       CG      CGA    
chr19   61336402        +       0       0       CG      CGG    
chr19   61336403        -       0       0       CG      CGT    

2番目のフィールド（行ではなく番号の間隔）の10000間隔ごとにこのファイルを分割したいと思います。したがって、このファイルでは、最初の行（61336212の行）から61346211（61336212 + 9999）以下の行に分割し、次に61346212から61356211に分割し、以下同様に分割します。ご覧のとおり、2番目のフィールド/列の数値は「入力」されていません。

これを行う方法はありますか？

awk 'NR==1 {n=$2}
     {
       file = sprintf("file.%.4d", ($2-n)/10000)
       if (file != last_file) {
         close(last_file)
         last_file = file
       }
       print > file
     }'

記述しfile.0000、file.0001...（数がいるint(($2-n)/10000)ところnである$2最初の行のため）。

他の方法で書き込みを停止すると、ファイルを閉じることに注意してください。数百のファイルを同時に開くと、同時に開くawkことができるファイルの数が制限に達します（GNU はその制限を回避できますが、パフォーマンスはすぐに低下します）。

これらの数は常に増加していると想定しています。

ワンライナーバージョンをハック。おそらく、このフォーラムよりもコードゴルフに適しています。これにより、split1、split2、split3などがファイル名として生成されます。

awk '{if($2>b+9999){a++;b=$2}print >"split" a}' file.txt

split001、split002、split003という名前の出力ファイルを作成するには、次の追加が必要sprintfです。

awk '{if($2>b+9999){a++;b=$2}print >sprintf("split%03d",a)}' file.txt

@StéphaneChazelasによって特定されたgawkの速度低下の問題を回避するには、perlを使用します。

perl -ne '(undef,$a)=split(/\s+/,$_);if($a>$b+9999){$c++;$b=$a}open(D,sprintf(">>ysplit%03d",$c));print D' <file.txt

#!/bin/bash
first=$( head -n1 file | awk -F" +" '{print $2}' )
last=$( tail -n1 file | awk -F" +" '{print $2}' )
for (( i=$first ; i<=$last ; i=i+10000 )) ; do
   awk -v start=$i -v end=$(($i+10000)) 'BEGIN { FS == " +" } { if ( $2 >= start && $2 < end ) print $0 }' file \
   >> interval_"$i"_to_"$(( $i+10000 ))"
done

間隔を100に設定してテストします。

more inter*
::::::::::::::
interval_61336212_to_61346212
::::::::::::::
chr19   61336212        +       0       0       CG      CGT    
chr19   61336213        -       0       0       CG      CGG    
chr19   61336218        +       0       0       CG      CGG    
chr19   61336219        -       0       0       CG      CGC    
chr19   61336268        +       0       0       CG      CGG    
chr19   61336269        -       0       0       CG      CGA    
::::::::::::::
interval_61336312_to_61346312
::::::::::::::
chr19   61336402        +       0       0       CG      CGG    
chr19   61336403        -       0       0       CG      CGT  

注：空の間隔で空のファイルを生成します。空のファイルを削除するには、次を追加します。

for file in interval* ; do
  if [ ! -s "$file" ] ; then
    rm "$file"
  fi
done

forループの各ステップでファイルを実行するため、最も効率的ではありません。

行カウントではなく計算だけを意味する場合：

awk 'NR==1 || n+10000<$2{n=$2; portion++}{print > FILENAME "." portion}' file