ExecutorServiceを使用して、すべてのスレッドが完了するのを待つ方法は？

次のように、一度にいくつかのタスクを4回実行する必要があります。

ExecutorService taskExecutor = Executors.newFixedThreadPool(4);
while(...) {
    taskExecutor.execute(new MyTask());
}
//...wait for completion somehow

それらがすべて完了したら、どうすれば通知を受け取ることができますか？今のところ、いくつかのグローバルタスクカウンターを設定し、すべてのタスクの終わりにそれを減らすことよりも良いことを考えることはできません。その後、無限ループでこのカウンターを監視して0にします。または、Futureのリストを取得し、それらすべてに対して無限ループモニターisDoneを実行します。無限ループを含まないより良い解決策は何ですか？

ありがとう。

基本的にはExecutorServiceあなたが電話shutdown()してからawaitTermination()：

ExecutorService taskExecutor = Executors.newFixedThreadPool(4);
while(...) {
  taskExecutor.execute(new MyTask());
}
taskExecutor.shutdown();
try {
  taskExecutor.awaitTermination(Long.MAX_VALUE, TimeUnit.NANOSECONDS);
} catch (InterruptedException e) {
  ...
}

CountDownLatchを使用します。

CountDownLatch latch = new CountDownLatch(totalNumberOfTasks);
ExecutorService taskExecutor = Executors.newFixedThreadPool(4);
while(...) {
  taskExecutor.execute(new MyTask());
}

try {
  latch.await();
} catch (InterruptedException E) {
   // handle
}

そしてあなたのタスク内（try / finallyで囲む）

latch.countDown();

ExecutorService.invokeAll() あなたのためにそれを行います。

ExecutorService taskExecutor = Executors.newFixedThreadPool(4);
List<Callable<?>> tasks; // your tasks
// invokeAll() returns when all tasks are complete
List<Future<?>> futures = taskExecutor.invokeAll(tasks);

先物リストも使用できます。

List<Future> futures = new ArrayList<Future>();
// now add to it:
futures.add(executorInstance.submit(new Callable<Void>() {
  public Void call() throws IOException {
     // do something
    return null;
  }
}));

次に、それらすべてに参加する場合、基本的にはそれぞれに参加するのと同等です（子スレッドからメインに例外を再発行するという追加の利点があります）。

for(Future f: this.futures) { f.get(); }

基本的に、トリックは、（すべてまたはそれぞれ）でisDone（）を呼び出す無限ループの代わりに、Futureごとに.get（）を一度に1つずつ呼び出すことです。したがって、最後のスレッドが終了するとすぐに、このブロックを通過してこのブロックを通過することが保証されます。注意点は、.get（）呼び出しは例外を再発生させるため、スレッドの1つが停止した場合、他のスレッドが完了する前にこれから発生する可能性があります[これを回避するにcatch ExecutionExceptionは、get呼び出しの周りに追加することができます]。他の注意点は、すべてのスレッドへの参照を保持するため、スレッドローカル変数がある場合、このブロックを通過するまで収集されません（問題が発生した場合は、これを回避することで回避できます）今後はArrayListから外れます）。どのFutureが「最初に終了する」か知りたい場合https://stackoverflow.com/a/31885029/32453

Java8ではあなたがそれを行うことができますCompletableFuture：

ExecutorService es = Executors.newFixedThreadPool(4);
List<Runnable> tasks = getTasks();
CompletableFuture<?>[] futures = tasks.stream()
                               .map(task -> CompletableFuture.runAsync(task, es))
                               .toArray(CompletableFuture[]::new);
CompletableFuture.allOf(futures).join();    
es.shutdown();

ちょうど私の2セント。CountDownLatchタスクの数を事前に知るという要件を克服するために、シンプルなを使用することで、昔ながらの方法でそれを行うことができますSemaphore。

ExecutorService taskExecutor = Executors.newFixedThreadPool(4);
int numberOfTasks=0;
Semaphore s=new Semaphore(0);
while(...) {
    taskExecutor.execute(new MyTask());
    numberOfTasks++;
}

try {
    s.aquire(numberOfTasks);
...

あなたのタスクではs.release()、あなたがそうするように電話するだけですlatch.countDown();

ゲームに少し遅れますが、完了のために...

すべてのタスクが完了するのを「待つ」のではなく、ハリウッドの原則として、「私に電話しないで、私はあなたに電話する」と考えることができます。結果のコードはよりエレガントだと思います...

グアバはこれを達成するためのいくつかの興味深いツールを提供しています。

例 ：：

ExecutorServiceをListeningExecutorServiceにラップする::

ListeningExecutorService service = MoreExecutors.listeningDecorator(Executors.newFixedThreadPool(10));

実行可能な呼び出し可能オブジェクトのコレクションを送信します::

for (Callable<Integer> callable : callables) {
  ListenableFuture<Integer> lf = service.submit(callable);
  // listenableFutures is a collection
  listenableFutures.add(lf)
});

今重要な部分：

ListenableFuture<List<Integer>> lf = Futures.successfulAsList(listenableFutures);

すべてのフューチャーが完了したときに通知を受けるために使用できるListenableFutureにコールバックをアタッチします::

        Futures.addCallback(lf, new FutureCallback<List<Integer>>() {
        @Override
        public void onSuccess(List<Integer> result) {
            log.info("@@ finished processing {} elements", Iterables.size(result));
            // do something with all the results
        }

        @Override
        public void onFailure(Throwable t) {
            log.info("@@ failed because of :: {}", t);
        }
    });

これには、処理が完了すると、すべての結果を1か所で収集できるという利点もあります...

詳細はこちら

Java 5以降のCyclicBarrierクラスは、この種のもののために設計されています。

以下のいずれかの方法に従います。

1. から返されたすべてのFutureタスクを繰り返し、提案されたようにオブジェクトのブロック呼び出しでステータスを確認しますsubmitExecutorServiceget()FutureKiran
2. 使用invokeAll()上のExecutorServiceの
3. CountDownLatch
4. ForkJoinPoolまたはExecutors.html＃newWorkStealingPool
5. shutdown, awaitTermination, shutdownNowThreadPoolExecutorのAPIを適切な順序で使用する

関連するSEの質問：

CountDownLatchはJavaマルチスレッドでどのように使用されますか？

Java ExecutorServiceを適切にシャットダウンする方法

ここに2つのオプションがありますが、どちらを使用するのが最善かを少し混乱させてください。

オプション1：

ExecutorService es = Executors.newFixedThreadPool(4);
List<Runnable> tasks = getTasks();
CompletableFuture<?>[] futures = tasks.stream()
                               .map(task -> CompletableFuture.runAsync(task, es))
                               .toArray(CompletableFuture[]::new);
CompletableFuture.allOf(futures).join();    
es.shutdown();

オプション2：

ExecutorService es = Executors.newFixedThreadPool(4);
List< Future<?>> futures = new ArrayList<>();
for(Runnable task : taskList) {
    futures.add(es.submit(task));
}

for(Future<?> future : futures) {
    try {
        future.get();
    }catch(Exception e){
        // do logging and nothing else
    }
}
es.shutdown();

ここにfuture.get（）;を置きます。トライキャッチで良いアイデアですよね？

通知を送信する別の実行可能ファイルでタスクをラップできます。

taskExecutor.execute(new Runnable() {
  public void run() {
    taskStartedNotification();
    new MyTask().run();
    taskFinishedNotification();
  }
});

あなたの問題を解決するサンプルプログラムを書いたところです。簡潔な実装が指定されていなかったので、追加します。executor.shutdown()およびを使用することはできますがexecutor.awaitTermination()、さまざまなスレッドがかかる時間は予測不可能であるため、これはベストプラクティスではありません。

ExecutorService es = Executors.newCachedThreadPool();
    List<Callable<Integer>> tasks = new ArrayList<>();

    for (int j = 1; j <= 10; j++) {
        tasks.add(new Callable<Integer>() {

            @Override
            public Integer call() throws Exception {
                int sum = 0;
                System.out.println("Starting Thread "
                        + Thread.currentThread().getId());

                for (int i = 0; i < 1000000; i++) {
                    sum += i;
                }

                System.out.println("Stopping Thread "
                        + Thread.currentThread().getId());
                return sum;
            }

        });
    }

    try {
        List<Future<Integer>> futures = es.invokeAll(tasks);
        int flag = 0;

        for (Future<Integer> f : futures) {
            Integer res = f.get();
            System.out.println("Sum: " + res);
            if (!f.isDone()) 
                flag = 1;
        }

        if (flag == 0)
            System.out.println("SUCCESS");
        else
            System.out.println("FAILED");

    } catch (InterruptedException | ExecutionException e) {
        e.printStackTrace();
    }

ここで、ラッチ/バリアを使用するための別の選択肢を提供します。すべてがCompletionServiceを使用して完了するまで、部分的な結果を取得することもできます。

実際のJava同時実行性から：「Executorに送信する計算のバッチがあり、それらが利用可能になったときに結果を取得したい場合、各タスクに関連付けられたFutureを保持し、getを呼び出して完了を繰り返しポーリングすることができます。ゼロのタイムアウト。これは可能ですが、面倒です。幸い、もっと良い方法があります：完了サービスです。」

ここでの実装

public class TaskSubmiter {
    private final ExecutorService executor;
    TaskSubmiter(ExecutorService executor) { this.executor = executor; }
    void doSomethingLarge(AnySourceClass source) {
        final List<InterestedResult> info = doPartialAsyncProcess(source);
        CompletionService<PartialResult> completionService = new ExecutorCompletionService<PartialResult>(executor);
        for (final InterestedResult interestedResultItem : info)
            completionService.submit(new Callable<PartialResult>() {
                public PartialResult call() {
                    return InterestedResult.doAnOperationToGetPartialResult();
                }
        });

    try {
        for (int t = 0, n = info.size(); t < n; t++) {
            Future<PartialResult> f = completionService.take();
            PartialResult PartialResult = f.get();
            processThisSegment(PartialResult);
            }
        } 
        catch (InterruptedException e) {
            Thread.currentThread().interrupt();
        } 
        catch (ExecutionException e) {
            throw somethinghrowable(e.getCause());
        }
    }
}

これは「AdamSkywalker」のヒントに基づいた私の解決策であり、機能します

package frss.main;

import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.CompletableFuture;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class TestHilos {

    void procesar() {
        ExecutorService es = Executors.newFixedThreadPool(4);
        List<Runnable> tasks = getTasks();
        CompletableFuture<?>[] futures = tasks.stream().map(task -> CompletableFuture.runAsync(task, es)).toArray(CompletableFuture[]::new);
        CompletableFuture.allOf(futures).join();
        es.shutdown();

        System.out.println("FIN DEL PROCESO DE HILOS");
    }

    private List<Runnable> getTasks() {
        List<Runnable> tasks = new ArrayList<Runnable>();

        Hilo01 task1 = new Hilo01();
        tasks.add(task1);

        Hilo02 task2 = new Hilo02();
        tasks.add(task2);
        return tasks;
    }

    private class Hilo01 extends Thread {

        @Override
        public void run() {
            System.out.println("HILO 1");
        }

    }

    private class Hilo02 extends Thread {

        @Override
        public void run() {
            try {
                sleep(2000);
            }
            catch (InterruptedException e) {
                e.printStackTrace();
            }
            System.out.println("HILO 2");
        }

    }


    public static void main(String[] args) {
        TestHilos test = new TestHilos();
        test.procesar();
    }
}

次のコードを使用できます。

public class MyTask implements Runnable {

    private CountDownLatch countDownLatch;

    public MyTask(CountDownLatch countDownLatch {
         this.countDownLatch = countDownLatch;
    }

    @Override
    public void run() {
         try {
             //Do somethings
             //
             this.countDownLatch.countDown();//important
         } catch (InterruptedException ex) {
              Thread.currentThread().interrupt();
         }
     }
}

CountDownLatch countDownLatch = new CountDownLatch(NUMBER_OF_TASKS);
ExecutorService taskExecutor = Executors.newFixedThreadPool(4);
for (int i = 0; i < NUMBER_OF_TASKS; i++){
     taskExecutor.execute(new MyTask(countDownLatch));
}
countDownLatch.await();
System.out.println("Finish tasks");

次の作業例を作成しました。アイデアは、多数のスレッド（numberOfTasks / thresholdによってプログラムで決定される）を使用してタスクのプール（例としてキューを使用しています）を処理し、すべてのスレッドが完了するまで待機して他の処理を続行する方法を持つことです。

import java.util.PriorityQueue;
import java.util.Queue;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

/** Testing CountDownLatch and ExecutorService to manage scenario where
 * multiple Threads work together to complete tasks from a single
 * resource provider, so the processing can be faster. */
public class ThreadCountDown {

private CountDownLatch threadsCountdown = null;
private static Queue<Integer> tasks = new PriorityQueue<>();

public static void main(String[] args) {
    // Create a queue with "Tasks"
    int numberOfTasks = 2000;
    while(numberOfTasks-- > 0) {
        tasks.add(numberOfTasks);
    }

    // Initiate Processing of Tasks
    ThreadCountDown main = new ThreadCountDown();
    main.process(tasks);
}

/* Receiving the Tasks to process, and creating multiple Threads
* to process in parallel. */
private void process(Queue<Integer> tasks) {
    int numberOfThreads = getNumberOfThreadsRequired(tasks.size());
    threadsCountdown = new CountDownLatch(numberOfThreads);
    ExecutorService threadExecutor = Executors.newFixedThreadPool(numberOfThreads);

    //Initialize each Thread
    while(numberOfThreads-- > 0) {
        System.out.println("Initializing Thread: "+numberOfThreads);
        threadExecutor.execute(new MyThread("Thread "+numberOfThreads));
    }

    try {
        //Shutdown the Executor, so it cannot receive more Threads.
        threadExecutor.shutdown();
        threadsCountdown.await();
        System.out.println("ALL THREADS COMPLETED!");
        //continue With Some Other Process Here
    } catch (InterruptedException ex) {
        ex.printStackTrace();
    }
}

/* Determine the number of Threads to create */
private int getNumberOfThreadsRequired(int size) {
    int threshold = 100;
    int threads = size / threshold;
    if( size > (threads*threshold) ){
        threads++;
    }
    return threads;
}

/* Task Provider. All Threads will get their task from here */
private synchronized static Integer getTask(){
    return tasks.poll();
}

/* The Threads will get Tasks and process them, while still available.
* When no more tasks available, the thread will complete and reduce the threadsCountdown */
private class MyThread implements Runnable {

    private String threadName;

    protected MyThread(String threadName) {
        super();
        this.threadName = threadName;
    }

    @Override
    public void run() {
        Integer task;
        try{
            //Check in the Task pool if anything pending to process
            while( (task = getTask()) != null ){
                processTask(task);
            }
        }catch (Exception ex){
            ex.printStackTrace();
        }finally {
            /*Reduce count when no more tasks to process. Eventually all
            Threads will end-up here, reducing the count to 0, allowing
            the flow to continue after threadsCountdown.await(); */
            threadsCountdown.countDown();
        }
    }

    private void processTask(Integer task){
        try{
            System.out.println(this.threadName+" is Working on Task: "+ task);
        }catch (Exception ex){
            ex.printStackTrace();
        }
    }
}
}

それが役に立てば幸い！

ExecutorCompletionServiceの独自のサブクラスを使用してラップしtaskExecutor、BlockingQueueの独自の実装を使用して各タスクが完了したときに通知を受け取り、完了したタスクの数が目的の目標に達したときにコールバックやその他のアクションを実行できます。

executorService.shutdown()とexecutorService.awaitTerminationメソッドを使用する必要があります。

次のような例：

public class ScheduledThreadPoolExample {

    public static void main(String[] args) throws InterruptedException {
        ScheduledExecutorService executorService = Executors.newScheduledThreadPool(5);
        executorService.scheduleAtFixedRate(() -> System.out.println("process task."),
                0, 1, TimeUnit.SECONDS);

        TimeUnit.SECONDS.sleep(10);
        executorService.shutdown();
        executorService.awaitTermination(1, TimeUnit.DAYS);
    }

}

だから私はここにリンクされた質問から私の答えを投稿します

ExecutorService executor = Executors.newFixedThreadPool(10);
CompletableFuture[] futures = new CompletableFuture[10];
int i = 0;
while (...) {
    futures[i++] =  CompletableFuture.runAsync(runner, executor);
}

CompletableFuture.allOf(futures).join(); // THis will wait until all future ready.

Java 8-ストリームAPIを使用してストリームを処理できます。以下のスニペットをご覧ください

final List<Runnable> tasks = ...; //or any other functional interface
tasks.stream().parallel().forEach(Runnable::run) // Uses default pool

//alternatively to specify parallelism 
new ForkJoinPool(15).submit(
          () -> tasks.stream().parallel().forEach(Runnable::run) 
    ).get();

ExecutorService WORKER_THREAD_POOL 
  = Executors.newFixedThreadPool(10);
CountDownLatch latch = new CountDownLatch(2);
for (int i = 0; i < 2; i++) {
    WORKER_THREAD_POOL.submit(() -> {
        try {
            // doSomething();
            latch.countDown();
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
        }
    });
}

// wait for the latch to be decremented by the two remaining threads
latch.await();

doSomething()他の例外をスローした場合latch.countDown()は実行されないようですので、どうすればよいですか？

より多くのスレッドExecutionServicesを順次使用し、各EXECUTIONSERVICEが完了するまで待機したい場合。最良の方法は以下のようなものです。

ExecutorService executer1 = Executors.newFixedThreadPool(THREAD_SIZE1);
for (<loop>) {
   executer1.execute(new Runnable() {
            @Override
            public void run() {
                ...
            }
        });
} 
executer1.shutdown();

try{
   executer1.awaitTermination(Long.MAX_VALUE, TimeUnit.NANOSECONDS);

   ExecutorService executer2 = Executors.newFixedThreadPool(THREAD_SIZE2);
   for (true) {
      executer2.execute(new Runnable() {
            @Override
            public void run() {
                 ...
            }
        });
   } 
   executer2.shutdown();
} catch (Exception e){
 ...
}

これは役立つかもしれません

Log.i(LOG_TAG, "shutting down executor...");
executor.shutdown();
while (true) {
                try {
                    Log.i(LOG_TAG, "Waiting for executor to terminate...");
                    if (executor.isTerminated())
                        break;
                    if (executor.awaitTermination(5000, TimeUnit.MILLISECONDS)) {
                        break;
                    }
                } catch (InterruptedException ignored) {}
            }

このRunnerクラスでwaitTillDone（）を呼び出すことができます。

Runner runner = Runner.runner(4); // create pool with 4 threads in thread pool

while(...) {
    runner.run(new MyTask()); // here you submit your task
}


runner.waitTillDone(); // and this blocks until all tasks are finished (or failed)


runner.shutdown(); // once you done you can shutdown the runner

このクラスを再利用して、shutdown（）を呼び出す前に何度でもwaitTillDone（）を呼び出すことができます。さらに、コードは非常にシンプルです。また、事前にタスクの数を知っている必要はありません。

これを使用するには、このgradle / maven compile 'com.github.matejtymes:javafixes:1.3.1'依存関係をプロジェクトに追加するだけです。

詳細はここにあります：

https://github.com/MatejTymes/JavaFixes

executorには、getActiveCount()アクティブなスレッドの数を示すメソッドがあります。

スレッドをスパンした後、activeCount()値がかどうかを確認できます0。値がゼロになると、現在実行中のアクティブなスレッドがないことを意味します。これは、タスクが終了したことを意味します。

while (true) {
    if (executor.getActiveCount() == 0) {
    //ur own piece of code
    break;
    }
}