Разработчики, использующие Fritz AI, теперь могут добавлять теги и метаданные в модели машинного обучения на устройстве. Модели можно запрашивать по тегам и динамически загружать через SDK для iOS и Android, что дает вам больше контроля над распространением и использованием. Доставляйте модели пользователям на основе оборудования, местоположения, программной среды или любого другого атрибута.
Практический пример
Представьте, что мы создаем приложение, которое использует маркировку изображений в реальном времени для идентификации контента на фотографиях. Мы обучаем нейронную сеть, используя конфигурацию по умолчанию MobileNet V2, и тестируем ее на нескольких устройствах. iPhone XS с процессором A12 Bionic может запускать модели машинного обучения до 9 раз быстрее, чем iPhone X, и до 50 раз быстрее, чем iPhone 6. Наше приложение работает в режиме реального времени на последнем флагмане, но отставание ужасно для старых устройств. Что нам делать?
Архитектура MobileNet предоставляет удобный параметр альфа, который определяет, сколько весов появляется в модели. Мы можем уменьшить альфа со значения по умолчанию 1.0 и создавать модели меньшего размера, которые работают намного быстрее за счет лишь нескольких точек точности. График ниже показывает этот компромисс.
Чтобы обеспечить максимальное удобство работы независимо от устройства, мы отправим разные версии нашей модели на разные устройства в зависимости от оборудования. Пользователи с iPhone 7 и старше получат самую маленькую версию модели, iPhone X и XS получат самую большую версию, а остальные получат промежуточную версию.
Не нужно быть экспертом в области машинного обучения, чтобы раскрыть его потенциал. Предоставьте нам этот опыт. Легко создавайте мобильные приложения, которые видят, слышат, ощущают и думают с помощью Fritz AI .
Шаг 1. Загрузите наши собственные модели
Шаг 2. Добавьте теги к модели из веб-приложения
Шаг 3. Загрузите соответствующую модель в наше приложение
Во-первых, нам нужно определить тип устройства, на котором запущено приложение, и сопоставить его с соответствующей моделью. Машинным идентификатором устройства будет строка, например iPhone10,1 (iPhone X) или iPhone7,1 (iPhone 6). Затем мы можем извлечь основной номер версии (например, 10 или 7 в предыдущих примерах) и сопоставить их с тегом модели.
Затем используйте SDK для запроса моделей, соответствующих этим тегам.
Без тегов вывод выполнялся за 5 мс на iPhone XS и 100 мс на iPhone 6. Благодаря тегам модели время вывода на iPhone 6 сократилось до 25 мс. Теперь пользователи могут работать без проблем независимо от устройства. Как всегда, вы можете отслеживать показатели производительности модели на панели инструментов Fritz AI и отправлять обновленные модели по воздуху по мере внесения улучшений.
Использование тегов и метаданных
- Ориентация на конкретное оборудование. Как было показано выше, теги могут использоваться для доставки определенных моделей на определенные устройства в зависимости от производительности и доступности оборудования.
- Контроль доступа. Используйте теги и метаданные для управления доступом к моделям или группам моделей, которые разблокируются пользователями. Например. покупки в приложении.
- Локализация. Предоставьте пользователям модели, которые были локализованы для разных регионов или языков. Например. текстовые классификаторы, обученные на корпусах определенного языка.
- Управление ресурсами: сопоставьте модели с другими ресурсами с помощью метаданных. Например. ссылки на миниатюры для данной модели.
Начни сегодня
Хотите больше контроля над своими моделями машинного обучения на устройстве? Начните с учетной записи Fritz AI сегодня. Доступно как на iOS, так и на Android. Документация также доступна здесь.
Обсудите этот пост в Hacker News.
Примечание редактора. Heartbeat - это онлайн-публикация и сообщество, созданное авторами и посвященное изучению зарождающегося пересечения разработки мобильных приложений и машинного обучения. Мы стремимся поддерживать и вдохновлять разработчиков и инженеров из всех слоев общества.
Независимая редакция, Heartbeat спонсируется и публикуется Fritz AI, платформой машинного обучения, которая помогает разработчикам учить устройства видеть, слышать, ощущать и думать. Мы платим участникам и не продаем рекламу.
Если вы хотите внести свой вклад, переходите к нашему призыву участников. Вы также можете подписаться на наши еженедельные информационные бюллетени (Deep Learning Weekly и Fritz AI Newsletter), присоединяйтесь к нам на » «Slack и подписывайтесь на Fritz AI в Twitter , чтобы узнавать обо всех последних новостях в области мобильного машинного обучения.
