Как посмотреть логи исполнителя в Livy, запущенном в кубернетах

У меня есть стабильное / искровое развертывание Helm, работающее на Kubernetes, и отправляю задание через Livy.

curl -X POST --data '{"className": "LogBundleConfigFetcher", "file": "http: ///aliceparser_2.11-19.12.09.jar", "args": [""]}' -H "Content-Type: application / json" http: //: 8998 / batches

Я могу видеть журналы драйверов в модуле Livy. Но не может видеть журналы исполнителя.

Есть ли способ увидеть журнал исполнителей?


kubernetes apache-spark livy
person Sumit G    schedule 16.01.2020    source источник
comment
Вы пытались просмотреть журналы из других контейнеров с искрами?   -  person Mr.KoopaKiller    schedule 16.01.2020
comment
@rabello да, я пробовал посмотреть логи обоих рабочих подов .. ничего не показывал   -  person Sumit G    schedule 16.01.2020

Ответы (1)


arrow_upward
1
arrow_downward

Livy API не предоставляет доступа к журналам Spark Executor.

Я бы порекомендовал вам взглянуть на проект Grafana Loki, чтобы упростить сбор логов в кластере Kubernetes.

Также Livy можно настроить для сбора журналов Executor, но это будет большим накладным расходом на масштабе.

person Aliaksandr Sasnouskikh    schedule 16.01.2020
comment
Мы используем Kibana, но он также показывает только журналы драйверов. Следует ли мне использовать развертывание сервера искровой истории для хранения журналов где-нибудь? - person Sumit G; 17.01.2020
comment
Сервер истории Spark хранит только журналы событий (снимок пользовательского интерфейса Spark, а не STDOUT). Что касается Kibana - проблема в том, как вы собираете логи. Возможно, вам нужно добавить некоторые дополнительные конфигурации в настройку Elastic / Kibana для сбора журналов исполнителей или проверить запрос, который вы используете в Kibana. К сожалению, у меня нет настройки ELK, но я могу поделиться с вами стеком Prometheus, которое я использую для мониторинга приложений Spark в Kubernetes: github.com/jahstreet/spark-on-kubernetes-helm/tree/master/. Надеюсь, это поможет. - person Aliaksandr Sasnouskikh; 17.01.2020