Каково минимальное/среднее время загрузки и запуска образа Docker для AWS ECS Fargate?
Образ anapsix/alpine-java размером 45 МБ для аргументации.
Я хотел бы изучить использование ECS Fargate для ускорения процесса сборки программного обеспечения локально на медленном ноутбуке/ПК за счет создания программного обеспечения на более быстром удаленном сервере.
Таким образом, время загрузки образа имеет решающее значение для делает усилия достойными внимания.
Я бы не согласился с принятым ответом, учитывая мой опыт работы с Fargate.
Я запустил 1000 контейнеров на Fargate и даже был упомянут в блоге об архитектуре AWS за использование Fargate. https://aws.amazon.com/blogs/architecture/building-real-time-ai-with-aws-fargate/
Время запуска частных подсетей за шлюзом NAT для нас не отличается от времени запуска контейнеров за IGW. Если вы используете одиночные экземпляры NAT, ваш пробег может отличаться.
Время запуска контейнеров в Fargate полностью определяется размером вашего контейнера. Fargate не кэширует контейнеры, поэтому каждая задача запуска приводит к извлечению докера. Если ваши образы основаны на Ubuntu, у вас будут плохие времена.
У нас есть набор контейнеров GO from нуля и контейнеров узлов Alpine.
В среднем, исходя из метрик, которые мы собрали из 1000 запусков, контейнеры с нуля запускаются и становятся работоспособными в целевой группе через 10-15 секунд.
Контейнеры Alpine запускаются в среднем за 30-40 секунд и приходят в норму.
Все, что длиннее этого, и ваши контейнеры, вероятно, будут слишком большими для Fargate, чтобы иметь какой-либо смысл, пока они не предложат предварительно кэшированный ECR или что-то подобное.
Для вашего конкретного примера у нас есть контейнеры одинакового размера, если ваша точка входа быстро исправна (т.е. не 60-секундное время запуска Java), ваш контейнер размером 45 МБ должен запуститься и быть готовым к работе через 30-60 секунд.
Я запустил более 100 контейнеров в Fargate, а в общедоступном VPC это занимает в среднем около 4 минут, но я видел, что в плохой день это занимало до 7-8 минут.
Если вы запустите его на частном VPC, то время может пойти наперекосяк. Я видел, что запуск контейнера Fargate занимает 2 часа, если экземпляр NAT перегружен.
Надеюсь, AWS со временем ускорит это. Запуск контейнера Fargate не должен занимать у меня больше времени, чем загрузка моего образа докера в ECR.
Я все еще жду кэширования в Fargate, которое уже доступно в ECS+EC2. Этот запрос функции можно отслеживать здесь. Досадно, что контейнеры так долго загружаются на AWS Fargate. Google Cloud Platform уже предлагает эту функцию как общедоступную в управляемой среде Cloud Run (K8s), где контейнеры раскручиваются на лету (~ 2 секунды) при получении запроса. Они становятся бездействующими после (настраиваемых) 5 минут, из-за чего вам выставляется счет только за эти 5 минут.
AWS Fargate пока не предлагает такой приятной функции «теплых контейнеров», хотя я бы очень рекомендовал их в этом. Вероятно, технически сложно сблизить вычислительные ресурсы и хранилище, чтобы добиться этого, потребуется огромная внутренняя пропускная способность, чтобы загружать эти контейнеры так же быстро, как это делает Google.
Тем не менее, ниже мой опыт работы с контейнерами Docker на AWS Fargate. Время загрузки тесно связано с размером образа контейнера, как видно из следующего примера контейнеров, которые я загрузил (февраль 2019 г.):
4000 МБ ~ 5 минут
2400 МБ ~ 4 минуты
1000 МБ ~ 2 минуты
350 МБ ~ 50 секунд
Я бы рекомендовал создавать образ контейнера на основе облегченного базового образа, такого как Minideb или Alpine. Это сделает ваш образ контейнера довольно маленьким, от нескольких 10 МБ до нескольких 100 МБ. Но опять же, когда вам нужна JVM или Python с некоторыми дополнительными пакетами и c-libs, вы легко доберетесь до 1000 МБ.
Можно использовать ECS_IMAGE_PULL_BEHAVIOR = Preference-cached для типа запуска EC2, чтобы значительно сократить время запуска агента.
