Я экспериментирую с режимом непрерывной обработки Spark в структурированной потоковой передаче, и я читаю тему Kafka с двумя разделами, в то время как приложение Spark имеет только один исполнитель с одним ядром.
Приложение простое, оно просто читает из первой темы и публикует по второй. Проблема в том, что моя консоль-потребитель, который читает из второй темы, видит только сообщения из одного раздела первой темы. Это означает, что мое приложение Spark читает сообщения только из одного раздела темы.
Как заставить мое приложение Spark читать из обоих разделов темы?
Примечание
Я задаю этот вопрос людям, которые могут столкнуться с той же проблемой, что и я