Вопросы по теме 'trident'

Функция слияния Storm Trident, сохраняющая временной порядок
Скажем, у меня есть два потока: Stream 1: [1,3],[2,4] Stream 2: [2,5],[3,2] Обычное слияние создаст поток 3, например: [1,3],[2,4],[2,5],[3,2] Я хотел бы объединить поток, сохраняя порядок, в котором кортеж был выпущен, поэтому, если...
638 просмотров
schedule 17.11.2022

Dynamic Pivot с использованием Storm
У меня есть строки в БД BigData (в моем случае Cassandra) с именами столбцов col1, col2, col3, val1, val2 в подходе SQL я могу группировать по col1, col2 или col2, col1 или любым другим возможным способом. Таким образом, я могу легко сформировать...
248 просмотров
schedule 26.05.2022

Trident Storm-Cassandra, запись в таблицу с несколькими первичными ключами
Я изучаю, как использовать Storm's Trident с Cassandra 2.0.5, Storm версии 0.9.0.1. Я также использую com.hmsonline storm-cassandra 0.4.0-rc4 contrib. Моя цель - просто вставить несколько текстовых строк в таблицу со столбцами идентификатора...
866 просмотров
schedule 10.06.2022

Состояние в болте/функция в шторме или трезубце
Чтобы применить некоторую функцию к потоку в Trident Storm, мы передаем вновь созданный экземпляр методу each , который вызывается в потоке следующим образом: stream.each(inputFields, new SomeFunc(), outputFields) где SomeFunc — потомок...
673 просмотров
schedule 31.05.2023

Создание носика Apache Storm, который выдает кортежи каждые X секунд
У меня есть топология, которая получает данные от брокера MQTT, и я хочу, чтобы носик вел себя следующим образом: Выдавать пакет кортежей (или список строк в одном кортеже) каждые x секунд. Как мне этого добиться? Я немного читал о Storm...
2285 просмотров
schedule 02.02.2024

Запись из Trident Storm в сетку памяти (Apache Ignite)
Может ли кто-нибудь пролить свет на то, как записывать/читать данные из трезубцевого шторма в сетку памяти (зажигание Apache). Я гуглил и не нашел никакой информации/документа о том, как подключиться от Trident Storm к сетке памяти.
240 просмотров
schedule 02.07.2022

Сохранение данных из Apache Storm, любого фреймворка?
Мы используем Kafka-storm в нашем проекте. В шторм мы будем использовать несколько болтов для трансформаций. Но перед этим, как часть POC, мы хотим сохранить данные в БД. Какой фреймворк нам следует использовать? Для сценария BigData, который...
510 просмотров

Trident Topology выдает исключение из памяти
Я перехожу от традиционной топологии Storm к топологии Trident, которая поддерживает пакеты кортежей перед их отправкой в ​​базу данных. Мы обрабатываем XML-файлы как один кортеж. В традиционной топологии, которая обрабатывает один xml за раз, это...
705 просмотров

Как сделать так, чтобы шторм не писал сообщение дважды в локальный файл?
Я создаю топо для получения сообщений от kafka, а затем grep какое-то ключевое слово, если оно подходит, записываю в локальный файл. Я использую OpaqueTridentKafkaSpout storm-kafka, чтобы кортеж не пропустил и не повторился, но рассмотрим одну...
380 просмотров
schedule 20.01.2023

хранение промежуточных данных в топологии шторма
Я читаю данные из 2 тем кафки. Что можно описать как: Topic1 data content: VehicleRegistrationNo, Timestamp, Location Topic2 data content: VehicleRegistrationNo, Timestamp, Speed Мне нужно объединить эти 2 сообщения на основе ближайшей метки...
52 просмотров
schedule 25.05.2022