Kafka-python Как использовать сообщение json

Я довольно новичок в Python и начинаю с Kafka. У меня есть требование, когда мне нужно отправлять и использовать сообщения json. Для этого я использую kafka-python для связи с Kafka.

#Producer.py
from kafka import KafkaProducer
import json
producer = KafkaProducer(bootstrap_servers='localhost:9092',value_serializer=lambda v: json.dumps(v).encode('utf-8'))
producer.send('offering_new', {"dataObjectID": "test1"})

#Consumer.py
import json
from kafka import KafkaConsumer
consumer = KafkaConsumer(bootstrap_servers='localhost:9092',auto_offset_reset='earliest', value_deserializer=lambda m: json.loads(m.decode('utf-8')))
consumer.subscribe(['offering_new'])
for message in consumer :
    print(message)

Однако я получаю следующее исключение для потребителя:

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/group.py", line 1111, in __next__
    return next(self._iterator)
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/group.py", line 1082, in _message_generator
    for msg in self._fetcher:
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/fetcher.py", line 482, in __next__
    return next(self._iterator)
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/fetcher.py", line 388, in _message_generator
    self._next_partition_records = self._parse_fetched_data(completion)
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/fetcher.py", line 799, in _parse_fetched_data
    unpacked = list(self._unpack_message_set(tp, records))
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/fetcher.py", line 458, in _unpack_message_set
    tp.topic, record.value)
  File "/home/paras/.local/lib/python3.6/site-packages/kafka/consumer/fetcher.py", line 492, in _deserialize
    return f(bytes_)
  File "<stdin>", line 1, in <lambda>
  File "/usr/lib/python3.6/json/__init__.py", line 354, in loads
    return _default_decoder.decode(s)
  File "/usr/lib/python3.6/json/decoder.py", line 339, in decode
    obj, end = self.raw_decode(s, idx=_w(s, 0).end())
  File "/usr/lib/python3.6/json/decoder.py", line 357, in raw_decode
    raise JSONDecodeError("Expecting value", s, err.value) from None
json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)

Я запускаю приведенный выше код в Python Shell. Может ли кто-нибудь сказать мне, где я ошибаюсь?


python-3.x python apache-kafka kafka-python
person Paras    schedule 05.04.2019    source источник
comment
Вы сначала проверили с консоли, являются ли написанные сообщения действительными json?   -  person Nishu Tayal    schedule 05.04.2019

Ответы (2)


arrow_upward
5
arrow_downward

С помощью auto_offset_reset='earliest' вы настроили своего потребителя на чтение всех сообщений в теме. Ошибка декодирования JSON предполагает, что какое-то сообщение, которое ранее было отправлено в тему, на самом деле не в формате JSON.

Некоторые решения:

(1) вместо этого потребляйте из хвоста темы: auto_offset_reset='latest'

(2) создать новую тему: consumer.subscribe(['offering_new_too'])

(3) используйте более полный десериализатор:

def forgiving_json_deserializer(v):
    return if v is None
    try:
        return json.loads(v.decode('utf-8'))
    except json.decoder.JSONDecodeError:
        log.exception('Unable to decode: %s', v)
        return None

KafkaConsumer(value_deserializer=forgiving_json_deserializer, ...)

Надеюсь это поможет!

person dpkp    schedule 05.04.2019

arrow_upward
0
arrow_downward

Убедитесь, что вы выполнили описанный ниже процесс

pip install kafka-python

импортировать ниже lib в скрипт python

from kafka import KafkaConsumer
from json import loads

создать потребительский объект kafka, как показано ниже

consumer = KafkaConsumer(
    'spring_test',
     bootstrap_servers=['localhost:9092'],
     auto_offset_reset='earliest',
     enable_auto_commit=True,
     group_id='my-group',
     value_deserializer=lambda x: loads(x.decode('utf-8')));

распечатать все сообщения

for message in consumer:
    message = message.value;
    print('{}'.format(message))

Надеюсь, это тоже поможет

person Swarit Agarwal    schedule 07.06.2019
comment
Чтобы постоянно потреблять, запустите это в цикле while True. А также как бы вы настроили его так, чтобы вы продолжали только с последнего сообщения, которое вы прочитали, вместо того, чтобы снова просматривать их все? - person Alfa Bravo; 30.12.2019