Вопросы по теме 'executors'

Как получить доступ к базовой очереди ThreadpoolExecutor потокобезопасным способом
Метод getQueue() обеспечивает доступ к базовой очереди блокировки в ThreadPoolExecutor, но это не кажется безопасным. Обход очереди, возвращаемой этой функцией, может пропустить обновления, внесенные в очередь ThreadPoolExecutor. «Метод...
1476 просмотров
schedule 25.11.2022

Мне нужны пояснения по хукам ThreadpoolExecutor beforeExecute и afterExecute
Я использую в своем приложении пулы потоков. Я создал подкласс TreadPoolExecutor и переопределил методы beforeExecute, afterExecute и terminated для статистических целей. Я также реализовал свою собственную ThreadFactory и переопределил метод...
1094 просмотров
schedule 26.06.2022

Как управлять исполнителями
В моей практике нередки случаи, когда разрабатываемое мной программное обеспечение становится большим и сложным, и различные его части используют исполнителей по-своему. С точки зрения производительности было бы лучше использовать разные конфигурации...
208 просмотров
schedule 25.11.2022

Есть ли способ вернуть задачи в очередь исполнителя
У меня есть ряд задач (т.е. Runnable s), которые должен выполнить Executor . Каждая задача требует выполнения определенного условия для продолжения. Мне было бы интересно узнать, есть ли способ каким-то образом настроить Executor для перемещения...
2663 просмотров

Прервать countDownLatch.await() по истечении времени ожидания
Я использую ExecutorService для реализации 3-поточного пула и CountDownLatch для отслеживания завершения всех потоков для дальнейшей обработки. ExecutorService threadExecutor = Executors.newFixedThreadPool(3); CountDownLatch countDownLatch = new...
12614 просмотров

Spark — сколько исполнителей и ядер выделено для моей искровой работы.
Архитектура Spark полностью вращается вокруг концепции исполнителей и ядер. Я хотел бы практически увидеть, сколько исполнителей и ядер работает для моего искрового приложения, работающего в кластере. Я пытался использовать приведенный ниже...
11346 просмотров
schedule 22.11.2022

Apache Spark: установка экземпляров исполнителя
Я запускаю свое приложение Spark на YARN с параметрами: в spark-defaults.conf: spark.master yarn-client spark.driver.cores 1 spark.driver.memory 1g spark.executor.instances 6 spark.executor.memory 1g в yarn-site.xml:...
2154 просмотров

Несколько исполнителей на одного работника с использованием YARN и Spark?
В моей компании мы собрали очень разнородный кластер YARN + Spark, используя комбинацию старых и новых машин. Поскольку статистика отдельных машин сильно различается, я хотел бы иметь возможность запускать несколько исполнителей на больших машинах....
412 просмотров
schedule 10.04.2023