FP32, FP16, BF16 и FP8 — разбираемся в основных типах чисел с плавающей запятой +10
Публикации с тегом числа с плавающей запятой
Арифметика с плавающей точкой без ошибок
Укрощаем суммы с плавающей запятой
16-, 8- и 4-битные форматы чисел с плавающей запятой +109
Вычитание функционально полное +27
- Программирование
- Математика
- Ненормальное программирование
- Programming
- Mathematics
- Abnormal programming
Числа с плавающей точкой для гуманитариев. Что это такое и как они работают +28
- Программирование
- C
- Математика
- Процессоры
- История IT
- Компьютерное железо
- Computer hardware
- History of IT
- Mathematics
- CPU
Полезен ли сегодня быстрый обратный квадратный корень из Quake III? +157
Что может быть проще (сложнее), чем упорядочивание чисел? +25
Свою квалификацию программиста можно повысить, если разбираться в деталях разных технологий +21
Алгоритм Кэхэна: как получить точную разность произведений +31
И все-таки, почему Posit являются достойной альтернативой IEEE 754 +75
- Программирование
- Высокая производительность
- Алгоритмы
- Производство и разработка электроники
- C++
- Суперкомпьютеры
Альтернатива стандарту IEEE754 -4
Рекуррентное соотношение Мюллера: проблемы с округлением чисел с плавающей точкой +58
