Публикации по теме 'quantization'
Как обучить модели распознавания речи, оптимизированные для краев, с помощью PyTorch Lightning (квантование части 2)
В этом руководстве показано, как повысить эффективность вывода ресурсов модели с помощью квантования с помощью PyTorch Lightning - вторая часть серии знакомит с основами оптимизации моделей с помощью квантования.
PyTorch Lightning позволяет быстро обучать модели, не беспокоясь о шаблонах. Хотя это упрощает обучение, на практике модели обучаются не ради моделей обучения, а, скорее, для развертывания в производственных приложениях.
Почему мне следует..
Базовое введение в TensorFlow Lite
Введение в преобразователь, квантованную оптимизацию и интерпретатор TensorFlow Lite для запуска моделей Tensorflow Lite на границе
В этой статье мы поймем функции, необходимые для развертывания модели глубокого обучения на Edge, что такое TensorFlow Lite и как можно использовать различные компоненты TensorFlow Lite для вывода на Edge.
Вы пытаетесь развернуть свою модель глубокого обучения в области, где у них нет хорошего сетевого подключения, но все же требуется модель..
Ученый AI: эффективное и действенное квантование для разреженных DNN
Ученый искусственного интеллекта: эффективное и действенное квантование для разреженных DNN
Эффективность моделей машинного обучения без потери точности
Это резюме исследования - лишь одно из многих, которые еженедельно распространяются в информационном бюллетене для ученых в области ИИ. Чтобы начать получать еженедельную рассылку , зарегистрируйтесь здесь .
Хотя глубокие нейронные сети (DNN) все чаще демонстрируют современную производительность во многих задачах..
Вопросы по теме 'quantization'
Уменьшение разрядности сэмпла путем усечения
Мне нужно уменьшить разрядность цифрового аудиосигнала с 24 до 16 бит.
Взятие только 16 самых значащих битов (т. е. усечение) каждой выборки эквивалентно выполнению пропорционального вычисления (out = in * 0xFFFF / 0xFFFFFF)?
3570 просмотров
schedule
08.06.2022
Использование JH Labs Quantize для уменьшения глубины цвета изображения
Я пытаюсь использовать QuantizeFilter в
http://www.jhlabs.com/ip/filters/index.html
для уменьшения глубины цвета снимка экрана.
Вот мой очень-очень простой код:
Robot robo = new Robot();
BufferedImage notQuantized =...
2288 просмотров
schedule
08.07.2022
Как найти продолжительность песни
Это был промежуточный вопрос, и я не знаю, как его рассчитать.
На вашем компьютере сохранена стереопесня CD-качества, занимающая 35,28 МБ памяти. Качество CD требует, чтобы у нас было 16-битное квантование, а также равномерная дискретизация 44,1...
190 просмотров
schedule
25.06.2022
Квантование сложного сигнала с помощью универсального квантователя в Matlab
У меня есть сигнал, который имеет сложное нормальное распределение со средним значением 0 и дисперсией 1. Я хочу квантовать его с помощью универсального квантователя до 512 уровней. Я генерирую сигнал в MATLAB следующим образом:
s =...
1802 просмотров
schedule
08.01.2023
цикл for не работает правильно в MATLAB
Я работаю над программой, в которой мне нужно квантовать синусоиду в MATLAB с 16 уровнями квантования.
Я разработал цикл for, который должен правильно квантовать значения, и он делает это для положительных значений синусоиды, но затем отображает...
31 просмотров
schedule
08.07.2022
Квантизация отпечатков пальцев
Я работаю над биометрическим java-проектом.
Я извлек мелкие точки из отпечатка пальца, состоящего из трех значений (x, y, Q).
Пример значений:
x: 274
y: 87
angle (Q): 18
Мне нужно квантовать три значения в одно (двойное из 16 бит)....
84 просмотров
schedule
04.04.2022
Преобразование графика дает ошибку в Tensorflow
Я использую версию tensorflow 1.1. Я хочу квантизировать модель inception_resnet_v2. Метод квантования с использованием
bazel build tensorflow/tools/quantization/tools:quantize_graph
bazel-bin/tensorflow/tools/quantization/tools/quantize_graph...
755 просмотров
schedule
04.02.2023
Принудительное симметричное квантование в TensorFlow
По различным причинам производительности оборудования и программного обеспечения я хочу принудительно использовать симметричное квантование в TensorFlow. Я полагаю, что самый быстрый способ опробовать это и сравнить его точность с существующим...
399 просмотров
schedule
29.06.2022
как объединить переменные.data и saved_model.pb в тензорном потоке
Я новичок в тензорном потоке и керасе. Я обучил CNN классификации предложений с помощью keras и экспортировал модель, используя следующий код
K.set_learning_phase(0)
config = model.get_config()
weights = model.get_weights()
new_model =...
1708 просмотров
schedule
11.06.2022
Любая библиотека Python для квантования, в которой можно зафиксировать целые и десятичные биты.
Как правило, библиотеки Python обеспечивают гибкость для игры с количеством битов для десятичных знаков. Я хочу что-то похожее на квантователь в MATLAB, где я могу исправить общее количество битов и количество битов для десятичных знаков.
Пример:...
877 просмотров
schedule
28.11.2022
Что означает «квантование» в интерпретаторе .get_input_details ()?
Использование tflite и получение таких свойств интерпретатора, как:
print(interpreter.get_input_details())
[{'name': 'input_1_1', 'index': 47, 'shape': array([ 1, 128, 128, 3], dtype=int32), 'dtype': <class 'numpy.uint8'>,...
674 просмотров
schedule
25.03.2022
Квантование после обучения: ValueError: ('Нераспознанные аргументы ключевого слова:', dict_keys (['input_dtype']))
У меня есть обученная модель keras (model.h5) в следующей среде
theano == 0.8.2
'keras == 1.1.2'
'scipy == 0.18.1'
Я попытался выполнить на нем квантование после обучения, используя приведенный ниже код, в tenorflow lite (tf-nightly) с...
3954 просмотров
schedule
22.06.2022
Реализация Флойда-Стейнберга Python
Я использую сглаживание Флойда-Стейнберга, чтобы рассеять ошибку квантования после обработки изображения с помощью KMeans из scipy. Приведенные данные представляют собой файл RGB - как для оттенков серого, так и для цвета. Проблема в визуализации -...
3257 просмотров
schedule
21.05.2022
Квантование графика TensorFlow для вывода
Я пытаюсь квантовать свою модель (CNN), чтобы преобразовать ее в квантованную модель .tflite. Я следую руководству по адресу: https://github.com/tensorflow/tensorflow/tree/r1.13/tensorflow/contrib/quantize#quantization-aware-training
Прежде...
2880 просмотров
schedule
13.08.2022
квантование после обучения для мобильной сети V1 не работает
Я пытаюсь преобразовать файл .pb mobilenet V1 в квантованный файл tflite. Я использовал следующую команду для квантования:
tflite_convert \
--output_file=/home/wc/users/Mostafiz/TPU/models/mobilnet/test2_4thSep/mobilenetv1_test5.tflite \...
427 просмотров
schedule
11.07.2022
tflite квантованный вывод очень медленный
Я пытаюсь преобразовать обученную модель из файла контрольной точки в tflite . Я использую tf.lite.LiteConverter . Преобразование с плавающей запятой прошло нормально с разумной скоростью вывода. Но скорость вывода преобразования INT8 очень...
738 просмотров
schedule
10.03.2022
Сбрасывание весов в TensorflowLite
новый пользователь Tensorflow 2.0. Мой проект требует, чтобы я исследовал веса для нейронной сети, которую я создал в Tensorflow (очень простой). Думаю, я знаю, как это сделать в обычном случае с Tensorflow. А именно я использую команду...
30 просмотров
schedule
12.03.2023
Нет улучшения производительности с использованием модели квантования в pytorch
Я обучил модель в pytorch с типом данных float. Я хочу сократить время вывода, преобразовав эту модель в квантованную. Я использовал API torch.quantization.convert для преобразования веса моей модели в тип данных uint8. Однако, когда я использую...
448 просмотров
schedule
10.10.2022
Приводит ли обучение с учетом квантования Tensorflows к фактическому ускорению во время обучения?
мы изучаем возможность использования обучения с учетом квантования для исследовательского проекта, чтобы определить влияние квантования во время обучения на скорость сходимости и время выполнения. Однако мы еще не полностью уверены в том, что это...
40 просмотров
schedule
12.03.2022
Квантование для обнаружения объектов
Чем квантование для моделей обнаружения объектов отличается от квантования для моделей классификации? Поскольку модели обнаружения должны обрабатывать координаты bbox (несколько объектов на входе), в квантовании должен быть какой-то трюк с...
119 просмотров
schedule
09.01.2024
