Я разработал простой конвейер для чтения файла CSV из облачного хранилища и записи в таблицу BigQuery. Во время работы конвейера операция внезапно останавливается без каких-либо сообщений об ошибках в журналах. Уже потребовались правила брандмауэра. Пожалуйста, подскажите, как к этому подойти.
Google Cloud Data Fusion - подготовка Dataproc внезапно останавливается без сообщения об ошибке
Ответы (1)
Я предполагаю, что это может быть связано с проблемой квот кластера данных. Когда конвейер запускается в объединении облачных данных, профиль по умолчанию запускает кластер данных с x количеством рабочих узлов. Некоторое время по умолчанию использовалось 10. Это может быть источником проблемы для данного сбоя, но для подтверждения этого может потребоваться дополнительная информация.
@Safiyur пара вопросов,
- Не могли бы вы сказать мне, когда был запущен этот экземпляр?
- Чтобы проверить, перед запуском конвейера вы можете настроить профиль так, чтобы он имел 3 рабочих узла. Это необходимо, чтобы убедиться, что это даже причина сбоя (Настроить -> Конфигурация вычислений -> Настроить)
- Не могли бы вы также проверить главные журналы службы, чтобы увидеть (Cloud Data Fusion -> System Admin), есть ли какие-либо ошибки, связанные с запуском конвейера?
- Не могли бы вы указать, какие правила брандмауэра вы добавили? (Это основано на документах
Примечание.
Во время работы конвейера операция внезапно останавливается без каких-либо сообщений об ошибках в журналах.
Исходя из этого, я предполагаю, что это журналы конвейера, о которых вы говорите.
person
Ajai
schedule
30.04.2019