Ни одна реализация элементарных функций не соответствует стандарту IEEE 754 +83
Публикации с тегом числа с плавающей запятой
FP32, FP16, BF16 и FP8 — разбираемся в основных типах чисел с плавающей запятой +10
Арифметика с плавающей точкой без ошибок
Укрощаем суммы с плавающей запятой
16-, 8- и 4-битные форматы чисел с плавающей запятой +109
Вычитание функционально полное +27
- Abnormal programming
- Programming
- Mathematics
- Ненормальное программирование
- Программирование
- Математика
Числа с плавающей точкой для гуманитариев. Что это такое и как они работают +28
- Mathematics
- Computer hardware
- History of IT
- CPU
- C
- Компьютерное железо
- Процессоры
- Программирование
- Математика
- История IT
Полезен ли сегодня быстрый обратный квадратный корень из Quake III? +157
Что может быть проще (сложнее), чем упорядочивание чисел? +25
Свою квалификацию программиста можно повысить, если разбираться в деталях разных технологий +21
Алгоритм Кэхэна: как получить точную разность произведений +31
И все-таки, почему Posit являются достойной альтернативой IEEE 754 +75
- Суперкомпьютеры
- Высокая производительность
- Программирование
- C++
- Алгоритмы
- Производство и разработка электроники
Альтернатива стандарту IEEE754 -4
Рекуррентное соотношение Мюллера: проблемы с округлением чисел с плавающей точкой +58
