Как перенаправить журналы из Azure Databricks в другое место назначения?

Мы могли бы использовать некоторую помощь в том, как отправлять журналы драйвера Spark и рабочих процессов в пункт назначения за пределами Azure Databricks, например, Хранилище BLOB-объектов Azure или эластичный поиск с использованием Eleastic-beats.

При настройке нового кластера единственными параметрами для получения места доставки журнала регистрации являются dbfs, см.

https://docs.azuredatabricks.net/user-guide/clusters/log-delivery.html.

Любой вклад очень ценится, спасибо!


person Jean Rouge    schedule 02.03.2019    source источник


Ответы (1)


Возможно следующее:

Сначала вы указываете расположение dbfs для журналов вашего драйвера и рабочих процессов Spark.
https://docs.databricks.com/user-guide/clusters/log-delivery.html

Затем вы создаете точку монтирования, которая связывает вашу папку dbfs с контейнером хранилища BLOB-объектов. https://docs.databricks.com/spark/latest/data-sources/azure/azure-storage.html#mount-azure-blob-storage-containers-with-dbfs

Надеюсь на эту помощь!

person Joseph M. Dion    schedule 03.03.2019