Вопросы по теме 'half-precision-float'

Заполнение MTLBuffer 16-битными числами с плавающей запятой
Я заполняю MTLBuffer векторами float2. Буфер создается и заполняется следующим образом: struct Particle { var position: float2 ... } let particleCount = 100000 let bufferSize = MemoryLayout<Particle>.stride * particleCount...
382 просмотров
schedule 06.07.2022

С плавающей запятой половинной точности
У меня небольшой вопрос по IEEE-754 с половинной точностью. 1) У меня есть следующее упражнение: 13,7625 должно быть записано в 16 бит (половинная точность) поэтому я начал преобразовывать число из DEC в двоичное, и у меня получилось 13,7625 =...
1968 просмотров

числа с плавающей запятой половинной точности [дубликаты]
Я хочу использовать числа с плавающей запятой половинной точности в С++ на процессоре ARM. Я хочу использовать числа половинной точности для арифметических целей. Я не знаю, как я могу определить половинные числа в С++? Есть ли какой-либо тип...
123 просмотров
schedule 23.09.2022

Обучение с Keras/TensorFlow в fp16/половина точности для карт RTX
Я только что получил RTX 2070 Super и хотел бы попробовать обучение с половинной точностью, используя Keras с серверной частью TensorFlow. До сих пор я нашел такие статьи, как этот , предлагающий использовать следующие настройки: import...
1105 просмотров

Сбор значений половинного числа с помощью AVX
Используя встроенные функции AVX / AVX2, я могу собрать наборы из 8 значений, либо 1,2- или 4-байтовые целые числа, либо 4-байтовые числа с плавающей запятой, используя: _mm256_i32gather_epi32 () _mm256_i32gather_ps () Но в настоящее...
372 просмотров
schedule 01.07.2022