Вопросы по теме 'kafka-topic'

Как удалить несколько тем в Apache Kafka
Предполагая, что у меня есть несколько тем с одинаковым префиксом, например: giorgos-topic1 giorgos-topic2 giorgos-topic3 ... Команда, используемая для удаления одной темы (например, giorgos-topic1 ), выглядит следующим образом:...
23530 просмотров
schedule 22.06.2022

Kafka ISR сократился и не расширяется
У меня есть кластер Kafka из 3 узлов с 1 ZK и 1 брокером на каждом. Kafka version 0.10.1.1. В каждой теме есть replication-factor=3 и min.insync.replicas=2 . После этого мы проверили, отправив --describe , что темы были успешно созданы с...
754 просмотров

Kafka не избавляется от данных при настройке Retention.ms
Поэтому, когда я ищу способ подсчета сообщений в теме, этот вариант хорош. kafka-run-class kafka.tools.GetOffsetShell --broker-list broker1:9092,broker2:9092,broker3:9092 --topic rev-dly-upd --time -1 Единственное, когда я меняю конфиг...
975 просмотров

io.confluent.ksql.exception.KafkaTopicExistsException: при запуске ksql-server-start ksql-server.properties
Я работаю с ksql довольно давно. Кластер Kafka если из 3 узлов. Я тоже использовал udf, и все выглядит хорошо, пока я не остановлю серверы и не запустил их снова. При запуске сервера я вижу в журналах следующее: [2019-04-03 11:29:54,381] ERROR...
526 просмотров
schedule 11.06.2023

Как программно создавать темы с помощью kafka-python?
Я начинаю работать с Kafka и довольно новичок в Python. Я использую эту библиотеку с именем kafka-python для связи с моим Kafka. маклер. Теперь мне нужно динамически создать тему из моего кода, из документов я вижу, что я могу вызвать метод...
1956 просмотров

Невозможно прочитать данные из тем кафки с помощью потоковой передачи искры
Я пытаюсь прочитать данные из темы kafka, используя потоковую передачу искры. Я могу создать сообщение в теме kafka, но при чтении данных из темы с использованием потоковой передачи искры я получаю сообщение об ошибке, как показано ниже: ERROR...
128 просмотров

исходное соединение kafka не публикуется в режиме метки времени
Я пытаюсь создать исходное соединение Kafka с режимом отметки времени в Windows. У меня есть эта таблица: CREATE TABLE "usu"."mytable" ( "first_name" CHAR(8 BYTE) DEFAULT ' ', "last_name" CHAR(8 BYTE) DEFAULT ' ', "regist" TIMESTAMP (0)...
792 просмотров

Как данные добавляются в разделы в Apache Kafka?
Привет, я работаю над кафкой. Я пытаюсь понять основы кафки. Я сейчас учу кафку. Я установил кафку с помощью докера. На данный момент у меня один брокер. Я создал тему с 3 разделами, используя команду ниже. kafka-topics --create --zookeeper...
93 просмотров

Тестирование потоков Kafka: java.util.NoSuchElementException: неинициализированная тема: output_topic_name
Я написал тестовый класс для приложения потока kafka согласно https://kafka.apache.org/24/documentation/streams/developer-guide/testing.html , код которого import com.EventSerde; import org.apache.kafka.common.serialization.Serde; import...
1335 просмотров

Spark Structured Streaming — можно ли записать смещение дважды
Я использую структурированную потоковую передачу искры, чтобы получать данные из темы кафки и записывать данные в другой приемник кафки. Я хочу сохранить смещение дважды - один раз при чтении из темы и пошевелить смещение. Во-вторых, при записи...
105 просмотров

Consumer_failed_message в потоке kafka: записи не отправлены из темы
У меня есть поток, в котором из мэйнфрейма IBM IIDR я отправляю записи в тему Kafka. value_format сообщения, приходящего в тему Kafka, - это AVRO, и ключ также в формате AVRO. Записи пихаются в тему Кафки. У меня есть поток, связанный с этой...
63 просмотров
schedule 31.05.2024

Соблюдение GDPR через сжатую тему Kafka
Я хотел бы задать вам несколько вопросов по apache kafka и сжатым темам. Мы хотим предоставить некоторые данные PII по сжатой теме kafka. Мы хотим удалить данные по этой теме через надгробие. В настоящее время есть несколько вопросов, по которым мы...
378 просмотров

Ускорение удаления старых записей с тем же ключом (тема с уплотненным журналом)
Я использую брокер Kafka (версия 2.12) с настройками сервера по умолчанию на моем Mac. Я создал сжатую тему журнала со следующей конфигурацией - Configs: cleanup.policy=compact,segment.bytes=1073741824,delete.retention.ms=100,segment.ms=100 Я...
34 просмотров
schedule 19.08.2022

Создать тему kafka, используя предопределенные файлы конфигурации
Есть ли способ создать тему kafka в файлах конфигурации kafka / zookeeper до , когда я буду запускать службы, поэтому как только они начнутся - темы будут на своих местах? Я заглянул внутрь скрипта bin/kafka-topics.sh и обнаружил, что в конце...
60 просмотров