Как удалить повторяющиеся записи из огромного файла csv и сохранить его в базе данных в Mulesoft с помощью Anypoint Studio

Предположим, у меня есть огромные файлы CSV, в которых говорится, что они содержат 10000 записей, и в нем есть 3 поля: ID, Имя и Возраст, а также есть несколько повторяющихся записей. Здесь я хочу удалить повторяющиеся записи на основе поля идентификатора и сохранить все уникальные записи в базе данных. Как мне добиться этого в Mulesoft с помощью Anypoint Studio?


person Aditya    schedule 20.10.2016    source источник


Ответы (2)


Вы можете использовать сеть данных для идентификации уникальных записей. А потом вставляем вDB.

Расход будет как File Connector(Reading File) >> Dataweave(identify unique records) >> DB connector(DB insert).

Пожалуйста, обратитесь к этому для получения более подробной информации.

https://docs.mulesoft.com/mule-user-guide/v/3.8/dataweave-operators#distinct-by

Надеюсь это поможет.

person AnupamBhusari    schedule 20.10.2016

Вы можете попробовать использовать отдельную опцию в dataweave и создать вывод как сам файл в формате csv.

Чтобы узнать об отдельном операторе, перейдите по ссылке ниже.

https://docs.mulesoft.com/mule-user-guide/v/3.9/dataweave-operators#distinct-by

person Srinivas    schedule 11.03.2018