На данный момент модели машинного обучения проникают во все аспекты нашего существования. Чаще, чем вы думаете, вы используете эти модели в течение дня. Модели машинного обучения используются в повседневных задачах, включая серфинг в социальных сетях, фотографирование и проверку погоды.
Мы знаем, насколько затратны вычислительные ресурсы для обучения этих моделей. Однако использование вывода на этих моделях часто требует больших вычислительных затрат. Нам нужны компьютерные платформы, которые могут обрабатывать машинное обучение с той скоростью, с которой оно используется. Поэтому большинство этих моделей работают в крупных центрах обработки данных с группами ЦП и ГП (в некоторых случаях даже TPU).
Хорошие вещи, такие как TinyML, поставляются в небольших упаковках.
Машинное обучение должно начинаться мгновенно при захвате изображения. Вы не хотите откладывать, пока изображение не будет передано в центр обработки данных, обработано, а затем возвращено. Ваша модель машинного обучения должна иметь возможность работать локально.
Данные должны обрабатываться там, где они производятся.
Ваши гаджеты должны немедленно отвечать на ваши запросы «Alexa» или «Окей, Google», когда вы их произносите — ожидая момента, когда гаджет отправит ваш голос на компьютеры для обработки и поиска информации. Пользовательский опыт страдает, и это требует времени. Опять же, в этом сценарии предпочтительнее запускать модель машинного обучения локально.
Что такое TinyML?
TinyML — это область исследований машинного обучения и встроенных систем, в которой рассматриваются модели, которые можно использовать в компактных гаджетах с низким энергопотреблением, таких как микроконтроллеры. Это позволяет периферийным устройствам делать вывод модели с малой задержкой, низким энергопотреблением и низкой пропускной способностью.
Типичный потребительский микроконтроллер потребляет мощность порядка милливатт или микроватт, в отличие от обычного потребительского ЦП, потребляющего от 65 до 85 Вт, и обычного потребительского графического процессора, потребляющего от 200 до 500 Вт. Это потребляет примерно в тысячу раз меньше энергии. Устройства TinyML могут выполнять приложения машинного обучения на периферии, работая без подключения к сети в течение недель, месяцев, а в некоторых случаях даже лет, благодаря низкому энергопотреблению.
Будущее машинного обучения крошечное и мощное, как черная дыра.
В настоящее время доступно не так много обучающих ресурсов, потому что TinyML — это новая область. Тем не менее, есть несколько отличных ресурсов, таких как No Code TinyML Book Рохита Шармы. Книга углубляется в технологии, чем обычно используется, но при этом остается доступной для людей с разным опытом, включая студентов, энтузиастов, менеджеров, исследователей рынка и разработчиков.
Он создает примеры из платформы tinyML без кода и с низким кодом www.tinyml.studio для создания решений, подходящих для производства, таких как профилактическое обслуживание, американский язык жестов, звуковые слова пробуждения и визуальные слова пробуждения.
Краткое содержание
Микроконтроллеры распространены повсеместно и генерируют массу данных. Мы можем использовать эти данные для улучшения наших продуктов с помощью TinyML. В настоящее время используется более 250 миллиардов микроконтроллеров, и эта цифра будет продолжать расти. Результатом этого будет снижение цены (да, экономика!). Микроконтроллеры, поддерживающие машинное обучение, будут иметь больший потенциал.
