В предыдущих статьях мы узнали как создать обслуживающий контейнер TensorFlow для SageMaker и как отправить образ контейнера в репозиторий ECS . В прошлой статье мы создали образ докера с именем sagemaker-tf-serving и поместили его в ECR. Мы будем использовать этот образ для создания конечной точки SageMaker. В этом примере требуется, чтобы роль выполнения AWS IAM разрешала SageMaker использовать другие сервисы AWS. Если у вас нет роли, эта статья научит вас созданию..

Как с легкостью обслуживать модели машинного обучения Одна из самых больших проблем во многих проектах по науке о данных - это развертывание модели. В некоторых случаях вы можете делать свои прогнозы в автономном режиме в пакетном режиме, но в других сценариях вы должны вызывать свою модель в режиме реального времени. Кроме того, мы видим все больше и больше выпускаемых моделей-серверов типа TensorFlow Serving и Torch Serve . Хотя есть много веских причин для использования этих..