Вы можете рассказать нам о себе и о том, чем занимается ваша компания?
Я Клайв Кокс, технический директор компании Селдон. Селдон фокусируется на помощи организациям в успешном развертывании решений машинного обучения в производственной среде. Мы предоставляем продукт с открытым исходным кодом Seldon Core, который предоставляет платформу на основе Kubernetes для развертывания графов логических выводов времени выполнения машинного обучения. Наша цель - помочь специалистам по данным, инженерам DevOps и менеджерам данных работать вместе, чтобы сделать проект машинного обучения успешным.
Машинное обучение в настоящее время является горячей темой, почему специалистам по данным следует выбирать Seldon среди других фреймворков?
Селдон сосредоточен на развертывании моделей науки о данных, чтобы работу специалистов по данным можно было легко внедрить в производство. Специалисты по обработке данных могут продолжать использовать любые фреймворки, которые они выберут для обучения своих моделей (например, Tensorflow, Sklearn, H2O, R), а затем легко упаковать свой график логических выводов времени выполнения, чтобы им мог управлять Селдон. Мы помогаем командам специалистов по обработке и анализу данных и DevOps работать вместе, чтобы проекты в области анализа данных прошли стадию PoC и были успешно запущены в производство.
Seldon Core, наш продукт с открытым исходным кодом, работает поверх Kubernetes и хорошо вписывается в более широкую экосистему машинного обучения на основе Kubernetes, такую как Kubeflow и IBM FfDL, обе из которых интегрированы в Seldon.
Какова была ваша стратегия создания API-шлюза до появления Ambassador? С какими проблемами вы столкнулись?
Мы предоставили простой шлюз OAuth API, позволяющий клиентам подключаться к их работающим графам вывода модели машинного обучения через REST и gRPC. Однако мы хотели сосредоточиться на основных проблемах машинного обучения и, следовательно, на правильном управлении входом / выходом из Kubernetes в наши сервисы. Мы надеялись, что эту проблему можно будет лучше решить с помощью существующего решения в облачном пространстве.
Почему вы выбрали Ambassador и какие преимущества вы заметили после принятия Ambassador?
Мы выбрали Амбассадор, чтобы сосредоточиться на наших основных задачах машинного обучения при развертывании и использовать обратный прокси-сервер, который отвечает потребностям наших клиентов. Нам нравится единый шлюз, предоставляемый послом для REST и gRPC, и его простая, но мощная конфигурация. Кроме того, мы ценим, что он хорошо сочетается с другими развивающимися технологиями, такими как Istio. Еще одним важным преимуществом является подключаемая аутентификация, поскольку организации, с которыми мы работаем, имеют разные потребности в этой области, поэтому нам нужно решение с гибкостью для обработки различных механизмов аутентификации.
Что вы посоветуете людям, желающим усыновить Амбассадора?
Амбассадор прост в развертывании и использовании, поэтому я рекомендую людям попробовать его и посмотреть, соответствует ли он их потребностям.
Как люди могут стать участниками Seldon Core и что ждет Селдона в будущем?
Мы всегда ждем дальнейших отзывов от пользователей, желающих развернуть ML в своей организации, поэтому будем приветствовать контакты от людей, которые хотят внедрить задачи ML в производство. Мы предоставляем множество примеров для начала работы с Seldon Core на нашей странице GitHub и создаем сообщество разработчиков на Slack. Кроме того, для людей, живущих в Лондоне, мы проводим встречу TensorFlow London, чтобы вы всегда могли встретиться с нами там, чтобы поболтать.
Мы продолжаем работать над расширением возможностей продукта Seldon Core с открытым исходным кодом, чтобы обеспечить общую плоскость управления для развертывания машинного обучения, а также работаем над нашей бета-версией Seldon Deploy.
