Вопросы по теме 'half-precision-float'
Заполнение MTLBuffer 16-битными числами с плавающей запятой
Я заполняю MTLBuffer векторами float2. Буфер создается и заполняется следующим образом:
struct Particle {
var position: float2
...
}
let particleCount = 100000
let bufferSize = MemoryLayout<Particle>.stride * particleCount...
382 просмотров
schedule
06.07.2022
С плавающей запятой половинной точности
У меня небольшой вопрос по IEEE-754 с половинной точностью.
1) У меня есть следующее упражнение: 13,7625 должно быть записано в 16 бит (половинная точность)
поэтому я начал преобразовывать число из DEC в двоичное, и у меня получилось 13,7625 =...
1968 просмотров
schedule
18.03.2023
числа с плавающей запятой половинной точности [дубликаты]
Я хочу использовать числа с плавающей запятой половинной точности в С++ на процессоре ARM. Я хочу использовать числа половинной точности для арифметических целей. Я не знаю, как я могу определить половинные числа в С++? Есть ли какой-либо тип...
123 просмотров
schedule
23.09.2022
Обучение с Keras/TensorFlow в fp16/половина точности для карт RTX
Я только что получил RTX 2070 Super и хотел бы попробовать обучение с половинной точностью, используя Keras с серверной частью TensorFlow.
До сих пор я нашел такие статьи, как этот , предлагающий использовать следующие настройки:
import...
1105 просмотров
schedule
18.07.2022
Сбор значений половинного числа с помощью AVX
Используя встроенные функции AVX / AVX2, я могу собрать наборы из 8 значений, либо 1,2- или 4-байтовые целые числа, либо 4-байтовые числа с плавающей запятой, используя:
_mm256_i32gather_epi32 ()
_mm256_i32gather_ps ()
Но в настоящее...
372 просмотров
schedule
01.07.2022