Одна среда выполнения, чтобы управлять ими всеми В этой статье мы узнаем, как развертывать модели машинного обучения (ML) с помощью ONNX , экосистемы, которая позволяет нам разделить среду обучения и вывода для моделей ML. Сначала мы увидим, почему и когда это полезно, затем обзор того, как работает ONNX, и, наконец, мы рассмотрим пример с использованием компьютерного зрения. Начиная с обученной модели в PyTorch, мы экспортируем ее в ONNX и запускаем в Google Colab обе версии модели,..

ailia SDK , инфраструктура логического вывода для периферийных устройств, использует формат ONNX для быстрого логического вывода на графическом процессоре. В этой статье я представляю некоторые результаты оптимизации модели ONNX, полученные в процессе разработки ailia SDK. Зачем оптимизировать модели ONNX? ONNX — это стандартный формат для обученных моделей, который облегчает взаимодействие моделей между средами глубокого обучения. Файлы ONNX создаются путем преобразования файлов..