Многие люди предсказывают, что будущее ИИ лежит за пограничными приложениями, и большая часть роста будет приходиться на пограничные приложения, в которых используются датчики, которые собирают данные в режиме реального времени и применяют к ним машинное обучение. Объем данных, доступных на периферии, также огромен. Другой важной причиной применения ИИ на периферии является конфиденциальность, потому что для многих приложений, особенно в областях здоровья, безопасности и т. Д., Обработка на периферии является обязательной! Вот почему несколько компаний работают над устройствами, которые ускоряют логический вывод на периферии. Продолжайте читать, чтобы узнать, как новая плата PoC (доказательство концепции) от GreenWaves Technologies может добавить интеллектуальности вашему приложению.

GAPPoc

GreenWaves представила линейку плат на базе процессора GAP8 - GAPPoc. Платы GAPPoc ориентированы на конкретные приложения по сравнению с Arduino-совместимым GAPuino общего назначения. Каждая плата семейства GAPPoc будет содержать основной модуль GAPMod, который включает в себя процессор и память GAP8. Другие компоненты на основной плате, такие как датчики и т. Д., Будут зависеть от приложения.

На фото выше GAPPoc-A, ориентированный в первую очередь на приложения компьютерного зрения. Как показано, на плате есть датчик изображения On Semi MT9V034 со сменным объективом, модуль Bluetooth и разъемы для других модулей.

Процессор GAP8

В Чипе GAP8 используется процессор на базе открытого кода RISC-V ISA. Он также основан на компонентах с открытым исходным кодом из проекта ETH Zurich PULP (Parallel Ultra-Low-Power Processing-Platform). PULP - это многоядерная вычислительная платформа с открытым исходным кодом, разработанная ETH Zurich и Болонским университетом. В архитектуре PULP в качестве основного используется ядро RI5CY или ядро с нулевым риском (Ibex).

GAP8 - это 8-ядерный MCU общего назначения, предназначенный для IoT, и включает в себя несколько блоков MAC (умножение и накопление) для ускорения вывода глубокого обучения. Процессор GAP8 потребляет около 70 мВт энергии при работе на частоте около 175 МГц.

Программное обеспечение

Чтобы начать работу с платами GAPPoC, требуется GAP8 SDK - на странице GitHub есть инструкции по установке SDK. SDK GAP8 включает инструмент tf2gap8, помогающий генерировать исходный код GAP8 для приложений компьютерного зрения из кода TensorFlow. В настоящее время SDK поддерживает только сверточные нейронные сети (CNN), которые широко используются в приложениях компьютерного зрения.

SDK предоставляет примеры использования наборов данных MNIST и CIFAR для обучения CNN для работы на процессоре GAP8.

Некоторые приложения

GreenWaves поделились несколькими примерами приложений, в которых можно использовать платы GAPPoC - обнаружение лиц и обнаружение пешеходов, и это лишь некоторые из них.

Конкуренция

SparkFun Edge - разработан SparkFun в сотрудничестве с Google и Ambic Micro, чтобы продемонстрировать TensorFlow Lite, работающий на процессоре Arm Cortex-M4F, и дать возможность другим пользователям разрабатывать приложения глубокого обучения с использованием этой платы. Вот один пример / кодовая лаборатория для начала, который использует модель CNN для распознавания определенных ключевых слов, таких как да и нет.

SparkFun Edge оснащен микроконтроллером Ambic Apollo 3 - ядром Cortex-M4F, обычно работающим на частоте 48 МГц, измеряющим ~ 1,6 мА при 3 В / 48 МГц, и может работать от батареи CR2302 (225 мАч) в течение 10 дней.

Процессор GAP8 состоит из восьми ядер и является более мощным по сравнению с микроконтроллером SparkFun Edge Apollo, однако оба по-прежнему потребляют милливатты энергии для работы нейронных сетей. Это намного ниже по сравнению с более мощными платами, такими как Coral Edge TPU или Nvidia Jetson Nano, которые потребляют ватты энергии. Но эти платы можно использовать вместе в приведенном ниже сценарии, когда процессор мощности в милливаттном режиме всегда включен, отслеживает события от разных датчиков и выводит из спящего режима более мощный процессор только тогда, когда требуется дальнейшая обработка. Например, процессор с низким энергопотреблением определяет, есть ли на изображении человек с помощью датчика изображения; тем не менее, более мощный процессор будет выполнять распознавание лиц, чтобы идентифицировать человека.

Сфера Edge AI - очень интересная и быстрорастущая область, и мы можем ожидать, что в ближайшее время будет запущено множество других продуктов.