Przewodnik po usłudze Java ExecutorService

1. Przegląd

ExecutorService to framework udostępniany przez JDK, który upraszcza wykonywanie zadań w trybie asynchronicznym. Ogólnie rzecz biorąc, ExecutorService automatycznie udostępnia pulę wątków i API do przypisywania do niej zadań.

2. Tworzenie instancji ExecutorService

2.1. Metody fabryczne klasy wykonawców

Najłatwiejszym sposobem utworzenia ExecutorService jest użycie jednej z metod fabrycznych klasy Executors .

Na przykład poniższy wiersz kodu utworzy pulę wątków z 10 wątkami:

ExecutorService executor = Executors.newFixedThreadPool(10);

Istnieje kilka innych metod fabrycznych do tworzenia wstępnie zdefiniowanych usług ExecutorService, które spełniają określone przypadki użycia. Aby znaleźć najlepszą metodę dla swoich potrzeb, zapoznaj się z oficjalną dokumentacją Oracle.

2.2. Bezpośrednio utwórz ExecutorService

Ponieważ ExecutorService jest interfejsem, można użyć wystąpienia dowolnej jego implementacji. W pakiecie java.util.concurrent jest kilka implementacji do wyboru lub możesz stworzyć własną.

Na przykład klasa ThreadPoolExecutor ma kilka konstruktorów, których można użyć do skonfigurowania usługi wykonawczej i jej puli wewnętrznej.

ExecutorService executorService = new ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue());

Możesz zauważyć, że powyższy kod jest bardzo podobny do kodu źródłowego metody fabrycznej newSingleThreadExecutor (). W większości przypadków szczegółowa ręczna konfiguracja nie jest konieczna.

3. Przypisywanie zadań do ExecutorService

ExecutorService może wykonać Runnable i płatnych na żądanie zadania. Aby uprościć sprawę w tym artykule, zostaną użyte dwa prymitywne zadania. Zauważ, że zamiast anonimowych klas wewnętrznych używane są tutaj wyrażenia lambda:

Runnable runnableTask = () -> { try { TimeUnit.MILLISECONDS.sleep(300); } catch (InterruptedException e) { e.printStackTrace(); } }; Callable callableTask = () -> { TimeUnit.MILLISECONDS.sleep(300); return "Task's execution"; }; List
    
      callableTasks = new ArrayList(); callableTasks.add(callableTask); callableTasks.add(callableTask); callableTasks.add(callableTask);
    

Zadania można przypisać do ExecutorService przy użyciu kilku metod, w tym execute () , która jest dziedziczona z interfejsu Executora , a także submit () , invokeAny (), invokeAll ().

Metoda execute () jest void i nie daje żadnej możliwości uzyskania wyniku wykonania zadania ani sprawdzenia statusu zadania (czy jest uruchomione czy wykonane).

executorService.execute(runnableTask);

submit () przesyłazadanie Callable lub Runnable do ExecutorService i zwraca wynik typu Future .

Future future = executorService.submit(callableTask);

invokeAny () przypisuje kolekcję zadań do ExecutorService, powodując wykonanie każdego z nich i zwraca wynik pomyślnego wykonania jednego zadania (jeśli nastąpiło pomyślne wykonanie) .

String result = executorService.invokeAny(callableTasks);

invokeAll () przypisuje kolekcję zadań do ExecutorService, powodując wykonanie każdego z nich i zwraca wynik wszystkich wykonań zadań w postaci listy obiektów typu Future .

List
    
      futures = executorService.invokeAll(callableTasks);
    

Teraz, zanim przejdziemy dalej, należy omówić jeszcze dwie rzeczy: zamknięcie ExecutorService i zajęcie się typami zwracanymi w przyszłości .

4. Wyłączanie ExecutorService

Ogólnie rzecz biorąc, ExecutorService nie zostanie automatycznie zniszczony, gdy nie ma zadania do przetworzenia. Będzie żył i czekał na nową pracę do wykonania.

W niektórych przypadkach jest to bardzo pomocne; na przykład, jeśli aplikacja musi przetwarzać zadania, które pojawiają się nieregularnie lub liczba tych zadań nie jest znana w czasie kompilacji.

Z drugiej strony aplikacja może dojść do końca, ale nie zostanie zatrzymana, ponieważ czekająca usługa ExecutorService spowoduje, że maszyna JVM będzie nadal działać.

Aby poprawnie zamknąć ExecutorService , mamy funkcje API shutdown () i shutdownNow () .

Metoda shutdown () nie powoduje natychmiastowego zniszczenia ExecutorService. Spowoduje to, że ExecutorService przestanie przyjmować nowe zadania i zostanie zamknięty po zakończeniu bieżącej pracy wszystkich działających wątków.

executorService.shutdown();

Metoda shutdownNow () próbuje natychmiast zniszczyć ExecutorService , ale nie gwarantuje, że wszystkie uruchomione wątki zostaną zatrzymane w tym samym czasie. Ta metoda zwraca listę zadań, które czekają na przetworzenie. To programista decyduje, co zrobić z tymi zadaniami.

List notExecutedTasks = executorService.shutDownNow();

Dobrym sposobem na zamknięcie ExecutorService (co jest również zalecane przez Oracle) jest użycie obu tych metod w połączeniu z metodą awaitTermination () . Przy takim podejściu ExecutorService najpierw przestanie przyjmować nowe zadania, a następnie zaczeka do określonego czasu na zakończenie wszystkich zadań. Jeśli ten czas minie, wykonanie jest natychmiast zatrzymywane:

executorService.shutdown(); try { if (!executorService.awaitTermination(800, TimeUnit.MILLISECONDS)) { executorService.shutdownNow(); } } catch (InterruptedException e) { executorService.shutdownNow(); }

5. Interfejs przyszłości

The submit() and invokeAll() methods return an object or a collection of objects of type Future, which allows us to get the result of a task's execution or to check the task's status (is it running or executed).

The Future interface provides a special blocking method get() which returns an actual result of the Callable task's execution or null in the case of Runnable task. Calling the get() method while the task is still running will cause execution to block until the task is properly executed and the result is available.

Future future = executorService.submit(callableTask); String result = null; try { result = future.get(); } catch (InterruptedException | ExecutionException e) { e.printStackTrace(); }

With very long blocking caused by the get() method, an application's performance can degrade. If the resulting data is not crucial, it is possible to avoid such a problem by using timeouts:

String result = future.get(200, TimeUnit.MILLISECONDS);

If the execution period is longer than specified (in this case 200 milliseconds), a TimeoutException will be thrown.

The isDone() method can be used to check if the assigned task is already processed or not.

The Future interface also provides for the cancellation of task execution with the cancel() method, and to check the cancellation with isCancelled() method:

boolean canceled = future.cancel(true); boolean isCancelled = future.isCancelled();

6. The ScheduledExecutorService Interface

The ScheduledExecutorService runs tasks after some predefined delay and/or periodically. Once again, the best way to instantiate a ScheduledExecutorService is to use the factory methods of the Executors class.

For this section, a ScheduledExecutorService with one thread will be used:

ScheduledExecutorService executorService = Executors .newSingleThreadScheduledExecutor();

To schedule a single task's execution after a fixed delay, us the scheduled() method of the ScheduledExecutorService. There are two scheduled() methods that allow you to execute Runnable or Callable tasks:

Future resultFuture = executorService.schedule(callableTask, 1, TimeUnit.SECONDS);

The scheduleAtFixedRate() method lets execute a task periodically after a fixed delay. The code above delays for one second before executing callableTask.

The following block of code will execute a task after an initial delay of 100 milliseconds, and after that, it will execute the same task every 450 milliseconds. If the processor needs more time to execute an assigned task than the period parameter of the scheduleAtFixedRate() method, the ScheduledExecutorService will wait until the current task is completed before starting the next:

Future resultFuture = service .scheduleAtFixedRate(runnableTask, 100, 450, TimeUnit.MILLISECONDS);

If it is necessary to have a fixed length delay between iterations of the task, scheduleWithFixedDelay() should be used. For example, the following code will guarantee a 150-millisecond pause between the end of the current execution and the start of another one.

service.scheduleWithFixedDelay(task, 100, 150, TimeUnit.MILLISECONDS);

According to the scheduleAtFixedRate() and scheduleWithFixedDelay() method contracts, period execution of the task will end at the termination of the ExecutorService or if an exception is thrown during task execution.

7. ExecutorService vs. Fork/Join

After the release of Java 7, many developers decided that the ExecutorService framework should be replaced by the fork/join framework. This is not always the right decision, however. Despite the simplicity of usage and the frequent performance gains associated with fork/join, there is also a reduction in the amount of developer control over concurrent execution.

ExecutorService gives the developer the ability to control the number of generated threads and the granularity of tasks which should be executed by separate threads. The best use case for ExecutorService is the processing of independent tasks, such as transactions or requests according to the scheme “one thread for one task.”

In contrast, according to Oracle's documentation, fork/join was designed to speed up work which can be broken into smaller pieces recursively.

8. Conclusion

Even despite the relative simplicity of ExecutorService, there are a few common pitfalls. Let's summarize them:

Keeping an unused ExecutorService alive: There is a detailed explanation in section 4 of this article about how to shut down an ExecutorService;

Wrong thread-pool capacity while using fixed length thread-pool: It is very important to determine how many threads the application will need to execute tasks efficiently. A thread-pool that is too large will cause unnecessary overhead just to create threads which mostly will be in the waiting mode. Too few can make an application seem unresponsive because of long waiting periods for tasks in the queue;

Calling a Future‘s get() method after task cancellation: An attempt to get the result of an already canceled task will trigger a CancellationException.

Unexpectedly-long blocking with Future‘s get() method: Timeouts should be used to avoid unexpected waits.

Kod tego artykułu jest dostępny w repozytorium GitHub.