Kafka мониторинг с помощью Burrow

При использовании Burrow для наблюдения за Кафкой

1) Что означают начальное и конечное смещение Burrow для данной группы потребителей в разделе темы? Я не смог найти никакой документации по этому поводу.

Что такое подходящая терминология Кафки? Терминология Kafka: Последнее зафиксированное смещение, Текущее смещение, Смещение отметки высокого уровня, Смещение конца бревна. На что указывает начало и конец смещения Burrow? Это смещение течения Кафки и смещения отметки Кафки Хайвотер?

Например,

http://localhost:8000/v2/kafka/local/consumer/MyGroup-1-4/lag

{
   "error":false,
   "message":"consumer group status returned",
   "status":{
      "cluster":"local",
      "group":"MyGroup-1-4",
      "status":"ERR",
      "complete":false,
      "partitions":[
         {
            "topic":"MyTopicTest-1",
            "partition":1,
            "status":"OK",
            "start":{
               "offset":28,
               "timestamp":1468769616468,
               "lag":0
            },
            "end":{
               "offset":34,
               "timestamp":1468805045000,
               "lag":0
            }
         },
         {
            "topic":"MyTopicTest-1",
            "partition":3,
            "status":"STOP",
            "start":{
               "offset":32,
               "timestamp":1468803763000,
               "lag":0
            },
            "end":{
               "offset":32,
               "timestamp":1468804303000,
               "lag":0
            }
         },
         {
            "topic":"MyTopicTest-1",
            "partition":4,
            "status":"OK",
            "start":{
               "offset":32,
               "timestamp":1468804003000,
               "lag":0
            },
            "end":{
               "offset":33,
               "timestamp":1468804783000,
               "lag":0
            }
         },
         {
            "topic":"MyTopicTest-1",
            "partition":5,
            "status":"STOP",
            "start":{
               "offset":32,
               "timestamp":1468803763000,
               "lag":0
            },
            "end":{
               "offset":32,
               "timestamp":1468804303000,
               "lag":0
            }
         },
         {
            "topic":"MyTopicTest-1",
            "partition":6,
            "status":"OK",
            "start":{
               "offset":33,
               "timestamp":1468804423000,
               "lag":0
            },
            "end":{
               "offset":34,
               "timestamp":1468805045000,
               "lag":0
            }
         },
         {
            "topic":"MyTopicTest-1",
            "partition":7,
            "status":"OK",
            "start":{
               "offset":27,
               "timestamp":1468769387995,
               "lag":0
            },
            "end":{
               "offset":33,
               "timestamp":1468804783000,
               "lag":0
            }
         },
         {
            "topic":"MyTopicTest-1",
            "partition":9,
            "status":"OK",
            "start":{
               "offset":27,
               "timestamp":1468769433946,
               "lag":0
            },
            "end":{
               "offset":33,
               "timestamp":1468804783000,
               "lag":0
            }
         }
      ],
      "partition_count":10,
      "maxlag":null,
      "totallag":0
   },
   "request":{
      "url":"/v2/kafka/local/consumer/MyGroup-1-4/lag",
      "host":"****",
      "cluster":"local",
      "group":"MyGroup-1-4",
      "topic":""
   }
}

2) Некоторые статусы помечены как ОСТАНОВЛЕННЫЕ. Правило закапывания для маркировки статуса как ОСТАНОВЛЕННОЕ: Если разница между текущим моментом и временем самого последнего смещения больше, чем разница между самым последним смещением и самым старым смещением в окне, потребитель находится в Состояние ОШИБКА, и раздел помечен как ОСТАНОВЛЕННЫЙ. Однако, если смещение потребителя и текущее смещение брокера для раздела равны, раздел не считается ошибочным.

Который час"? Это время, когда запрос задержки был отправлен в Burrow?


person Sunny    schedule 18.07.2016    source источник


Ответы (1)


1) Что означают начальное и конечное смещение Burrow для данной группы потребителей в разделе темы? Мне не удалось найти никакой документации по этому поводу.
Эти два смещения означают начальное и конечное смещения (смещения, зафиксированные потребителем) в окне оценки logcheck. В окне по умолчанию будет храниться 10 смещений, которые используются для оценки задержки потребителя. см. диаграмму и ссылку ниже.
Burrow: Kafka Новый взгляд на мониторинг потребителей  введите описание изображения здесь

2, что такое «время сейчас»? Это время, когда запрос задержки был отправлен в Burrow?
«Время сейчас» означает текущий «интервал задержки». более подробный пример можно найти в примере 5.

Разница во времени между первым сохраненным смещением и последним сохраненным смещением составляет 540 секунд, а разница во времени между текущим и последним сохраненным смещением составляет 660 секунд. Потребитель прекратил совершать смещения, что означает, что он потерпел неудачу или был остановлен.

person Shawn Guo    schedule 19.07.2016
comment
Спасибо @Shawn. Если начальное смещение - это тема __consumer_offsets, а конечное смещение - смещение Broker HEAD для каждого раздела, то почему бы Burrow не называет их такими, какие они есть, и не вводить новую терминологию начала и конца. Также зачем вообще печатать начальное и конечное смещения? Просто напечатайте разницу и назовите ее лагом, чтобы она была ясной. - person Sunny; 20.07.2016
comment
Или я что-то упускаю? - person Sunny; 20.07.2016
comment
Начало и конец означают, что потребитель зафиксировал смещения в окне оценки запаздывания. Задержка рассчитывается как разница между смещением HEAD брокера и смещением потребителя. Окно проверки журнала по умолчанию будет иметь 10 смещений. Фактически мы определяем статус потребителя по единственному статусу: индикатор ERR. Информация о начальном и конечном смещении помогает получить подробную информацию о задержке. - person Shawn Guo; 20.07.2016
comment
Спасибо @Shawn. Таким образом, для окна проверки журнала по умолчанию начало - это 1-е смещение в окне, а конец - 10-е смещение в окне. Разве HEAD не смещает конец журнала в текущем разделе, и это смещение, возможно, еще не реплицировалось. Не следует рассчитывать задержку по смещению, которое было реплицировано на все реплики, и по текущему зафиксированному смещению в окне. - person Sunny; 21.07.2016