Что такое Decimal64 из Decimal floating point из IEEE 754 или точные десятичные числа с плавающей запятой в компьютере
Публикации с тегом IEEE-754
Вычитание функционально полное +27
- Программирование
- Математика
- Ненормальное программирование
- Programming
- Mathematics
- Abnormal programming
Вещественные числа с плавающей двоичной точкой в .NET и .NET Framework +22
Числа с плавающей точкой для гуманитариев. Что это такое и как они работают +28
- Программирование
- C
- Математика
- Процессоры
- История IT
- Компьютерное железо
- Computer hardware
- History of IT
- Mathematics
- CPU
Учебный видео-курс по арифметике с плавающей запятой в формате IEEE-754. Часть I +8
Наиболее точное скалярное произведение векторов типа double. Вычисление значения полинома +40
Можно ли сложить N чисел типа double наиболее точно? +69
Сложение двух чисел с плавающей запятой без потери точности +123
