Каковы правильные настройки Cloudwatch/Autoscale для чрезвычайно коротких всплесков трафика в Amazon Web Services?

Эти ссылки размещены предсказуемо? Если это так, вы можете использовать масштабирование по расписанию или, в качестве альтернативы, может изменить значение DESIRED-CAPACITY группы автоматического масштабирования или даже вызвать as-execute-policy для масштабирования прямо перед публикацией вашей ссылки.

Знаете ли вы, что в одной группе может быть несколько политик масштабирования? Таким образом, у вас может быть специальная политика автоматического масштабирования для вашего случая, что-то вроде SCALE_OUT_HIGH, которая добавляет, скажем, еще 10 экземпляров одновременно. Взгляните на команду as-put-scaling-policy.

Кроме того, вам нужно проверить свой код и найти узкие места.

Какой HTTPD вы используете? Подумайте о переходе на Nginx, так как это гораздо более быстрое и менее ресурсоемкое программное обеспечение, чем Apache. Попробуйте использовать Memcache... NoSQL, такой как Redis, для высокого чтения и записи также является хорошим вариантом.

Предложение от AWS было следующим:

Мы всегда работаем над тем, чтобы сделать наши системы более отзывчивыми, но сложно автоматически выделить виртуальные серверы с временем отклика в несколько секунд, как того требует ваш вариант использования. Возможно, есть обходной путь, который быстрее реагирует или более устойчив, когда запросы начинают увеличиваться.

Вы заметили, что сайт работает лучше, если вы используете более крупный тип экземпляра или большее количество экземпляров в стабильном состоянии? Это может быть одним из способов устойчивости к быстрому увеличению входящих запросов. Хотя я понимаю, что это может быть не самым рентабельным, вы можете обнаружить, что это быстрое решение.

Другой подход может состоять в том, чтобы настроить ваш сигнал тревоги, чтобы использовать пороговое значение или показатель, который будет отражать (или предсказывать) ваш рост спроса раньше. Например, вы можете повысить производительность, если настроите будильник на добавление экземпляров после того, как количество пользователей превысит 75 или 100. Возможно, вы уже делаете это. Кроме того, ваш вариант использования может иметь другой индикатор, предсказывающий увеличение спроса, например, публикация на вашей странице в Facebook может предшествовать значительному увеличению запроса на несколько секунд или даже на минуту. Потенциальным решением также может быть использование пользовательских метрик CloudWatch для отслеживания этого значения, а затем установка для него автоматического масштабирования.

Поэтому я думаю, что лучший ответ — запускать больше экземпляров при меньшем трафике и использовать пользовательские метрики для прогнозирования трафика из внешнего источника. Я собираюсь попробовать, например, отслеживать Facebook и Twitter на наличие сообщений со ссылками на сайт и сразу же увеличивать масштабы.