Введение в Валлару
Wallaroo облегчает последнюю милю вашего пути к машинному обучению [внедрение машинного обучения в вашу производственную среду, чтобы повлиять на итоговый результат] с невероятной скоростью и эффективностью.
Платформа Wallaroo ML включает в себя эффективный и компактный исполнительный механизм, платформу для A/B-тестирования, обнаружения аномалий и веб-панель управления. В этих компонентах используется знакомый интерфейс Jupyter Notebook/Python SDK, который так нравится специалистам по обработке и анализу данных.
В большинстве случаев Wallaroo может обеспечить более быстрый выход на рынок — обычно в 3 раза быстрее — и гораздо меньшую потребность в инфраструктуре — обычно на 80 %.
Wallaroo разработан для критически важных для бизнеса рабочих процессов машинного обучения
Выявление ресурсов, необходимых для запуска моделей машинного обучения и выполнения проектов машинного обучения во многих организациях, становится все труднее.
Несмотря на то, что системы машинного обучения являются одними из самых ресурсоемких приложений, в инфраструктуре и возможностях, необходимых для крупномасштабного масштабирования систем машинного обучения, есть пробелы.
Wallaroo быстрый и простой в использовании. Wallaroo обеспечивает лучшую пропускную способность на одного работника и значительно меньшие задержки. Это означает меньшее количество оборудования и значительно более низкие текущие затраты на инфраструктуру для данной рабочей нагрузки.
Наш операционный опыт намного проще, чем существующие инструменты или собственные решения. Wallaroo позволяет быстро развернуть производственную среду прямо с ноутбука. Высокоуровневый Python SDK Wallaroo и необработанные API более низкого уровня предоставляют вам широчайший спектр вариантов интеграции для вашей стратегии развертывания модели, и все это благодаря удобству ваших знакомых инструментов и рабочих процессов. Кроме того, в Wallaroo интегрированы инструменты машинного обучения, такие как PyTorch, RoBERTa, TensorFlow, XGBoost, Scikit Learn и другие.
У Wallaroo есть цифры, подтверждающие это
Компания Wallaroo создала бенчмаркинг для проверки концепции крупной финансовой компании, ищущей способы модернизации своей инфраструктуры машинного обучения. Мы взяли модель Aloha и протестировали ее в сравнении с двумя конкурентами на рынке, AWS SageMaker и Google Vertex.
Модель Aloha (ALOHA: Auxiliary Loss Optimization for Hypothesis Augmentation) — это сложная модель с открытым исходным кодом, которая пытается классифицировать данный файл как «вредоносное» или «безвредное». Это настолько сложно, что многие теперь используют Aloha для сравнительного анализа и тестирования производительности, чтобы понять, насколько хорошо работают их системы машинного обучения.
Wallaroo против AWS SageMaker
- Выводы в 4,5 раза быстрее в секунду
- Снижение затрат на сервер логического вывода на 85 %.
- Прогнозируемая ежегодная экономия вычислительных затрат на 21 тыс. долл. США
Wallaroo против Google Vertex
- Выводы в 13,5 раз быстрее в секунду
- Снижение затрат на сервер логического вывода на 85 %.
- Прогнозируемая ежегодная экономия вычислительных затрат на 50 000 долларов США
Как Wallaroo может это сделать?
На высоком уровне производительность Wallaroo обусловлена сочетанием выбора дизайна и постоянной бдительности. Мы построили систему на сверхбыстром языке Rust, который обеспечивает высокий уровень надежности и безопасности при скорости выполнения на уровне C.
Если вы хотите узнать подробности о технологии Wallaroo, обратитесь к нашему техническому документу Введение в производительность Wallaroo.
Заключение
Уникальный подход Wallaroo к развертыванию систем обработки данных изменит то, как вы создаете и развертываете системы. Wallaroo обеспечивает лучшую пропускную способность в расчете на одного работника и значительно меньшие задержки — требуется меньше оборудования при заданном размере рабочей нагрузки. Экономьте свое время и деньги с Wallaroo! Мы знаем, что вы будете поражены тем, насколько просто начать работу и насколько быстро это работает по сравнению с существующими решениями.
