Повышение производительности при перенаправлении вывода с помощью Билайн

Мы выполняем запрос на производстве и собираем результаты в плоском файле. Затем этот файл отправляется конечному пользователю по почте. Этот файл содержит миллионы записей.

Наш запрос выполняется примерно за 10 минут, но перенаправление вывода в плоский файл занимает 30-40 минут.

Можно ли как-то ускорить перенаправление?


person akash sharma    schedule 21.04.2019    source источник
comment
Создайте файл в HDFS с помощью insert overwrite table or directory и получите файл на локальном компьютере с помощью hadoop fs -get /hdfs/source/path /localfs/destination/path   -  person leftjoin    schedule 21.04.2019
comment
@leftjoin: стоит ли расширять это замечание в самом ответе?   -  person halfer    schedule 03.05.2019
comment
Возможный дубликат Как я могу экспортировать данные представления в куст?   -  person leftjoin    schedule 03.05.2019