По своей сути Edge AI представляет собой комбинацию граничных вычислений и периферийного интеллекта для выполнения задач машинного обучения непосредственно на конечных устройствах, которые обычно состоят из встроенного микропроцессора и датчиков, а задача обработки данных также выполняется локально и хранится на периферии. конец узла. Внедрение моделей машинного обучения в периферийный ИИ уменьшит задержку и улучшит пропускную способность сети. Edge AI помогает приложениям, которые полагаются на обработку данных в реальном времени, помогая с данными, моделями обучения и выводами. Согласно отчету Valuates Reports, к 2030 году рынок периферийного оборудования для искусственного интеллекта оценивается в 6,88 млрд долларов США и достигнет 39 млрд долларов США при среднегодовом темпе роста в 18,8%.

Развитие Интернета вещей и внедрение интеллектуальных технологий в потребительской электронике и автомобилестроении, в частности, подпитывают рынок аппаратного обеспечения ИИ. Пограничные процессоры искусственного интеллекта с аналитикой на устройстве расширят возможности рынка аппаратного обеспечения искусственного интеллекта. NVIDIA, Google, AMD, Lattice, Xilinx и Intel являются одними из поставщиков платформ граничных вычислений для разработки таких приложений когнитивного ИИ. Кроме того, развитие новых технологий, таких как глубокое обучение, аппаратные ускорители искусственного интеллекта, нейронные сети, компьютерное зрение, оптическое распознавание символов, обработка естественного языка и т. д., открывает совершенно новые горизонты возможностей. В то время как предприятия быстро движутся к децентрализованной компьютерной архитектуре, они также открывают новые способы использования этой технологии для повышения производительности.

Что такое граничные вычисления?

Пограничные вычисления приближают вычисления и хранение данных к устройствам, которые их собирают, вместо того, чтобы полагаться на первичную площадку, которая может быть далеко. Это гарантирует, что данные не страдают от задержек и проблем с избыточностью, которые ограничивают эффективность приложения. Объединение Машинного обучения с периферийными вычислениями приводит к появлению новых, устойчивых и масштабируемых систем ИИ в самых разных отраслях.

Миф: будут ли Edge вычисления подавлять облачные вычисления?

Нет, граничные вычисления не заменят и не подавят облачные вычисления. Вместо этого граничные вычисления будут дополняться облачной средой для повышения производительности и более широкого использования задач машинного обучения.

Потребность в аппаратных ускорителях искусственного интеллекта

Для выполнения сложных задач машинного обучения на периферийных устройствах требуются специализированные аппаратные ускорители ИИ, которые повышают скорость и производительность, обеспечивают большую масштабируемость, максимальную безопасность, надежность и эффективное управление данными.

• VPU (блок обработки изображений)

Блок обработки зрения — это своего рода микропроцессор, предназначенный для ускорения алгоритмов машинного обучения и искусственного интеллекта. Он сбалансирует рабочую нагрузку Edge AI с высокой эффективностью и поддерживает такие задачи, как обработка изображений, которая похожа на блок обработки видео, используемый с нейронными сетями. Он работает с низким энергопотреблением и высокой точностью.

• GPU (графический процессор)

Электронная схема, способная создавать графику для отображения на электронном устройстве, называется графическим процессором. Он может обрабатывать несколько данных одновременно, что делает их идеальными для машинного обучения, редактирования видео и игровых приложений. Благодаря своей способности выполнять сложные задачи машинного обучения в настоящее время они широко используются в мобильных устройствах, планшетах, рабочих станциях и игровых консолях.

ТПУ (тензорный процессор)

Google представил Tensor Processing Unit (TPU), ASIC для выполнения алгоритмов машинного обучения (ML) на основе нейронных сетей. Он потребляет меньше энергии и работает более эффективно. Google Cloud Platform с TPU — хороший выбор для приложений машинного обучения, которым не требуется много облачной инфраструктуры.

Применение Edge AI в разных отраслях

Умные фабрики

Пограничный ИИ можно применять для профилактического обслуживания, относящегося к отрасли оборудования, с помощью которого пограничные устройства могут выполнять анализ сохраненных данных для выявления сценариев, в которых может произойти сбой, до того, как произойдет фактический сбой.

Автономные транспортные средства

Самоуправляемые транспортные средства — один из лучших примеров внедрения передовых технологий искусственного интеллекта в автомобильную промышленность, где интеграция помогает обнаруживать и идентифицировать объекты, тем самым снижая вероятность несчастных случаев. Это помогает избежать столкновения с пешеходами/другими транспортными средствами, обнаружить блокпосты, что требует немедленной обработки данных в режиме реального времени, поскольку на карту поставлено множество жизней.

Промышленный Интернет вещей

Благодаря внедрению Computer Vision в Industrial IoT визуальные проверки могут выполняться без особых усилий без значительного вмешательства человека, что повышает эффективность работы и производительность сборочных линий.

Умное здравоохранение

Искусственный интеллект Edge может помочь в сфере здравоохранения с помощью носимых устройств, улучшающих наблюдение за здоровьем пациента и прогнозирующих заболевания на ранних стадиях. Эти сведения также можно использовать для обеспечения пациентов эффективным лечением в режиме реального времени. Данные пациентов могут быть защищены с соблюдением требований HIPAA.

Преимущества использования машинного обучения в Edge

Высокая масштабируемость

Поскольку спрос на количество взаимосвязанных IoT-устройств растет во всех отраслях, Edge AI становится абсолютным выбором благодаря эффективной и своевременной обработке данных без значительной зависимости от облачной централизованной сети.

Защита данных и безопасность

Поскольку пограничные устройства не полностью зависят от облачных ресурсов, злоумышленники не могут вывести из строя весь облачный центр обработки данных/серверную систему.

Низкие операционные риски

Поскольку Edge AI основан на распределенной модели, в случае сбоя он не повлияет на всю системную цепочку, как в случае с облаком, в основе которого лежит централизованная модель. Выход из строя отдельных пограничных устройств не будет представлять огромной угрозы для всей системы.

Уменьшенная задержка

Благодаря внедрению Edge AI вычисления могут выполняться за миллисекунды. Это возможно, поскольку нет необходимости отправлять данные в облако для первоначальной обработки, что позволяет сэкономить время и уменьшить задержку при обработке данных.

Экономичность

Edge AI значительно экономит пропускную способность, поскольку передача данных сведена к минимуму. Это также снижает требования к емкости для облачных сервисов, что делает Edge AI экономичным решением по сравнению с облачными решениями ML.

В некоторых случаях модели машинного обучения сложны и довольно велики. В таких ситуациях становится крайне сложно переложить эти модели на компактные периферийные устройства. Без надлежащих мер предосторожности, если будут предприняты усилия по снижению сложности алгоритмов, совершенство обработки будет иметь негативные последствия, а также станет ограниченной вычислительная мощность. Поэтому на начальном этапе разработки крайне важно оценить все точки отказа. Наибольший приоритет следует отдавать идеальному тестированию обученной модели на различных типах устройств и операционных систем.

Автор: В. Шринивас Дурга Прасад

Сринивас — специалист по маркетингу в Softnautics, работающий над техническими и коммерческими статьями, маркетинговыми исследованиями и анализом тенденций. Он энтузиаст маркетинга с более чем 6-летним опытом работы в различных отраслях. Он любит путешествовать и любит приключения.