Flume изменяет текстовые файлы на двоичные файлы

Я буферизую каталог с помощью Flume и загружаю файлы в hdfs. Это файлы txt/csv, и я хочу, чтобы они были в таком формате в hdfs. Но Flume загружает их как бинарные файлы...

Вот моя конфигурация:

tier1.sources  = source1
tier1.channels = channel1
tier1.sinks    = sink1

tier1.sources.source1.type     = spooldir
tier1.sources.source1.channels = channel1
tier1.sources.source1.spoolDir = /var/data
tier1.sources.source1.fileHeader = false
tier1.sources.source1.deletePolicy = immediate
tier1.channels.channel1.type   = memory
tier1.sinks.sink1.type         = hdfs
tier1.sinks.sink1.channel      = channel1
tier1.sinks.sink1.hdfs.path = /user/hdfs/%y-%m-%d/
tier1.sinks.sink1.hdfs.writeFormat=Text
tier1.sinks.sink1.hdfs.useLocalTimeStamp = true
tier1.sinks.sink1.hdfs.rollInterval = 30

tier1.channels.channel1.capacity = 100

Что мне нужно изменить, чтобы Flume загружал txt-файлы как txt-файлы?


person damian    schedule 07.05.2014    source источник


Ответы (1)


это должно решить вашу проблему:

tier1.sinks.sink1.hdfs.fileType = Поток данных

tier1.sinks.sink1.hdfs.writeFormat = Текст

person haggz    schedule 10.07.2014
comment
Это все равно не решит эту проблему, строки в телнете сохраняются в бинарных файлах на HDFS. - person Janis Karklins; 18.02.2018