Публикации по теме 'mlops'
4 инструмента MLOps для развертывания вашей модели машинного обучения
Эту статью можно считать продолжением небольшой серии, состоящей из следующих статей:
Введение в MLOps Как крупные компании справляются со своими рабочими процессами машинного обучения Стратегии развертывания ваших моделей машинного обучения 4 лучших практики развертывания моделей машинного обучения
Оптимизация модели с помощью TensorFlow
млн операций в секунду
Оптимизация модели с помощью TensorFlow
Сократите задержку, хранение и затраты на вывод моделей с помощью квантования и обрезки.
За последние несколько лет в моделях машинного обучения наблюдались две, казалось бы, противоположные тенденции. С одной стороны, модели имеют тенденцию становиться все больше и больше, достигая кульминации в том, что сейчас в моде: большие языковые модели . Модель Nvidia Megatron-Turing Natural Language Generation имеет 530..
Визуализация систем машинного обучения в производстве с помощью Streamlit Altair
Используйте Streamlit Altair для создания простых в развертывании интерактивных визуализаций и используйте их для мониторинга систем машинного обучения в производственной среде.
Введение
Машинное обучение (ML) все чаще используется для обеспечения работы реальных приложений, от персонализированных рекомендаций на потоковых платформах до обнаружения мошенничества в финансовых системах. Однако создание и развертывание систем машинного обучения в производственной среде может быть..
Инфраструктура реального времени для специалистов по данным
В нашей продолжающейся серии статей о трениях в разработке функций мы в целом говорили о разрыве импеданса между учеными и инженерами по данным и глубоко погрузились в трудности перевода Python на Java . Здесь я хочу сделать еще одно глубокое погружение, но на этот раз об инфраструктуре — еще одном источнике трений при преобразовании функций в реальном времени в рабочую среду.
Вот основные выводы:
И разработчикам, и специалистам по данным нужно иметь дело с инфраструктурой, но им..
Как развернуть модели машинного обучения в производстве?
Большинство новичков считают, что достаточно делать только модели для разных целей. С академической точки зрения достаточно сосредоточиться только на модели. Но с точки зрения производства существует множество других процессов, таких как управление журналами, управление памятью и вычислительной мощностью, и многие другие, которые необходимо выполнить, чтобы они работали в течение длительного времени в бизнесе.
В этой статье я расскажу о некоторых шагах, которые необходимо выполнить для..
MLOps для диалогового ИИ с Rasa, DVC и CML (Часть I)
Это первая часть серии сообщений в блогах, в которых описывается, как использовать Контроль версий данных (DVC) и Непрерывное машинное обучение (CML) при разработке диалоговых помощников ИИ с использованием фреймворка Rasa . Этот пост в основном представляет собой введение в эти три компонента, в следующем посте я углублюсь в код и в то, как все соединить для блаженства Rasa MLOps.
Что такое ДВК?
Если вы не слышали о контроле версий данных (DVC), вы многое упустили. DVC — это..
Подробное руководство по построению конвейеров MLOps с аппаратным ускорением в SageMaker
Узнайте, как внедрить библиотеки Intel AI Analytics Toolkit с аппаратным ускорением в SageMaker.
SageMaker — это полностью управляемый сервис машинного обучения в облаке AWS. Мотивация этой платформы заключается в том, чтобы упростить создание надежных конвейеров машинного обучения поверх управляемых облачных сервисов AWS. К сожалению, абстракции, которые приводят к его простоте, делают его довольно сложным в настройке. В этой статье объясняется, как можно внедрить собственный код..
