Публикации по теме 'tensorflow-serving'
Как установить TensorFlow Serving, загрузить сохраненную модель TF и подключить ее к REST API в Ubuntu 16.0
TensorFlow Serving - лучшее решение для обслуживания высокопроизводительной модели TF ML. Хотя трудно найти четкие инструкции, при правильном выполнении они работают очень быстро!
Установка
(Упрощено с https://www.tensorflow.org/serving/setup )
Получите зависимости:
sudo apt-get update && sudo apt-get install -y \
build-essential \
curl \
libcurl3-dev \
git \
libfreetype6-dev \
libpng12-dev \
libzmq3-dev \
pkg-config \
python-dev \
python-numpy \..
Как рекомендовать что-либо
Рекомендации везде!
Рекомендательные системы используются по всему Интернету, чтобы предлагать людям что-то новое для покупки, просмотра, чтения и т. д. Но прежде чем я начну рассказывать о рекомендательных системах, TensorFlow и обо всем остальном в этом посте, нам нужно осветить некоторые основы. .
Такой как…
Что такое есть рекомендательные системы?
Что ж, рекомендательные системы похожи на друга, который всегда знает, что вам может понравиться, и может помочь вам найти новые..
Развертывание модели машинного обучения в рабочей среде
Практический пример развертывания модели машинного обучения с использованием TensorFlow Serving и Kubernetes в облаке AWS.
Введение
Развертывание моделей машинного обучения — недавняя тема в разработке программного обеспечения. Хотя разработке моделей машинного обучения с точки зрения науки о данных уделяется большое внимание, развертывание, мониторинг и обслуживание моделей в производственной среде часто упускается из виду. В этом посте представлен пример технической архитектуры для..
Развертывание и обслуживание моделей ИИ (часть 2 — TensorFlow Serving)
Это продолжение моей серии о развертывании моделей ИИ в производственных сценариях ( Часть-1 ). Обслуживание TensorFlow позволяет разработчикам интегрировать предсказание, обнаружение или классификацию модели машинного обучения в облачный или локальный сервер независимо от конфигурации клиентской системы. Таким образом, пользователям приложений не нужно беспокоиться о больших вычислительных мощностях, необходимых для запуска моделей DNN. Клиентская часть приложения ИИ может делать..
Клиент Java для TensorFlow, обслуживающего gRPC API
Google TensorFlow - популярный набор инструментов для машинного обучения, который включает TF Serving , который может обслуживать сохраненные модели машинного обучения через образ Docker, который предоставляет RESTful и gRPC API .
Вот вам введение gRPC . API-интерфейсы gRPC службы TF определены внутри файлов protobuf (например, обслуживание модели и др.) И предоставляют немного больше функциональных возможностей, чем RESTful API. С помощью этих файлов .proto вы можете..
[РУКОВОДСТВО]: разверните модель машинного обучения как REST API в Azure и защитите ее с помощью SSL
Пошаговое руководство по запуску моделей машинного обучения в производство
Что вы узнаете:
TL; DR:
Специалисты по анализу данных часто забывают, что их новые потрясающие модели не так полезны, если их нельзя использовать в производственной среде. В этом руководстве я покажу вам, как развернуть модель Tensorflow в экземплярах контейнеров Azure и защитить ее с помощью SSL.
Будет 3 типа развертывания:
Развертывание №1: локальное развертывание: Модель будет помещена в..
Сквозное машинное обучение в Tensorflow и Tensorflow Extended - 3
В предыдущих сообщениях я представил несколько простых развертываний с использованием Tensorflow. В этом посте больше внимания будет уделено преобразованию Tensorflow и Apache Beam. В репозитории TensorFlow Transform Github я опубликовал некоторые проблемы (и решения), связанные с census_example. Поскольку вы можете обратиться к этой ссылке для получения более подробной информации, я не буду публиковать весь код, только то, что необходимо для пояснительных целей.
В этом примере..
