Вопросы по теме 'kafka-topic'
Как удалить несколько тем в Apache Kafka
Предполагая, что у меня есть несколько тем с одинаковым префиксом, например:
giorgos-topic1
giorgos-topic2
giorgos-topic3
...
Команда, используемая для удаления одной темы (например, giorgos-topic1 ), выглядит следующим образом:...
23530 просмотров
schedule
22.06.2022
Kafka ISR сократился и не расширяется
У меня есть кластер Kafka из 3 узлов с 1 ZK и 1 брокером на каждом.
Kafka version 0.10.1.1.
В каждой теме есть replication-factor=3 и min.insync.replicas=2 . После этого мы проверили, отправив --describe , что темы были успешно созданы с...
754 просмотров
schedule
05.08.2022
Kafka не избавляется от данных при настройке Retention.ms
Поэтому, когда я ищу способ подсчета сообщений в теме, этот вариант хорош.
kafka-run-class kafka.tools.GetOffsetShell --broker-list broker1:9092,broker2:9092,broker3:9092 --topic rev-dly-upd --time -1
Единственное, когда я меняю конфиг...
975 просмотров
schedule
10.03.2023
io.confluent.ksql.exception.KafkaTopicExistsException: при запуске ksql-server-start ksql-server.properties
Я работаю с ksql довольно давно. Кластер Kafka если из 3 узлов. Я тоже использовал udf, и все выглядит хорошо, пока я не остановлю серверы и не запустил их снова. При запуске сервера я вижу в журналах следующее:
[2019-04-03 11:29:54,381] ERROR...
526 просмотров
schedule
11.06.2023
Как программно создавать темы с помощью kafka-python?
Я начинаю работать с Kafka и довольно новичок в Python. Я использую эту библиотеку с именем kafka-python для связи с моим Kafka. маклер. Теперь мне нужно динамически создать тему из моего кода, из документов я вижу, что я могу вызвать метод...
1956 просмотров
schedule
19.05.2024
Невозможно прочитать данные из тем кафки с помощью потоковой передачи искры
Я пытаюсь прочитать данные из темы kafka, используя потоковую передачу искры. Я могу создать сообщение в теме kafka, но при чтении данных из темы с использованием потоковой передачи искры я получаю сообщение об ошибке, как показано ниже:
ERROR...
128 просмотров
schedule
07.09.2022
исходное соединение kafka не публикуется в режиме метки времени
Я пытаюсь создать исходное соединение Kafka с режимом отметки времени в Windows. У меня есть эта таблица:
CREATE TABLE "usu"."mytable" (
"first_name" CHAR(8 BYTE) DEFAULT ' ',
"last_name" CHAR(8 BYTE) DEFAULT ' ',
"regist" TIMESTAMP (0)...
792 просмотров
schedule
29.10.2022
Как данные добавляются в разделы в Apache Kafka?
Привет, я работаю над кафкой. Я пытаюсь понять основы кафки. Я сейчас учу кафку. Я установил кафку с помощью докера. На данный момент у меня один брокер. Я создал тему с 3 разделами, используя команду ниже.
kafka-topics --create --zookeeper...
93 просмотров
schedule
13.04.2023
Тестирование потоков Kafka: java.util.NoSuchElementException: неинициализированная тема: output_topic_name
Я написал тестовый класс для приложения потока kafka согласно https://kafka.apache.org/24/documentation/streams/developer-guide/testing.html , код которого
import com.EventSerde;
import org.apache.kafka.common.serialization.Serde;
import...
1335 просмотров
schedule
24.09.2022
Spark Structured Streaming — можно ли записать смещение дважды
Я использую структурированную потоковую передачу искры, чтобы получать данные из темы кафки и записывать данные в другой приемник кафки.
Я хочу сохранить смещение дважды - один раз при чтении из темы и пошевелить смещение. Во-вторых, при записи...
105 просмотров
schedule
01.12.2022
Consumer_failed_message в потоке kafka: записи не отправлены из темы
У меня есть поток, в котором из мэйнфрейма IBM IIDR я отправляю записи в тему Kafka. value_format сообщения, приходящего в тему Kafka, - это AVRO, и ключ также в формате AVRO. Записи пихаются в тему Кафки. У меня есть поток, связанный с этой...
63 просмотров
schedule
31.05.2024
Соблюдение GDPR через сжатую тему Kafka
Я хотел бы задать вам несколько вопросов по apache kafka и сжатым темам. Мы хотим предоставить некоторые данные PII по сжатой теме kafka. Мы хотим удалить данные по этой теме через надгробие. В настоящее время есть несколько вопросов, по которым мы...
378 просмотров
schedule
15.05.2022
Ускорение удаления старых записей с тем же ключом (тема с уплотненным журналом)
Я использую брокер Kafka (версия 2.12) с настройками сервера по умолчанию на моем Mac. Я создал сжатую тему журнала со следующей конфигурацией -
Configs: cleanup.policy=compact,segment.bytes=1073741824,delete.retention.ms=100,segment.ms=100
Я...
34 просмотров
schedule
19.08.2022
Создать тему kafka, используя предопределенные файлы конфигурации
Есть ли способ создать тему kafka в файлах конфигурации kafka / zookeeper до , когда я буду запускать службы, поэтому как только они начнутся - темы будут на своих местах?
Я заглянул внутрь скрипта bin/kafka-topics.sh и обнаружил, что в конце...
60 просмотров
schedule
10.02.2023