Малые числа, большие возможности: как плавающая запятая ускоряет ИИ и технологии +9
Публикации с тегом ieee 754
JavaScript: заметка о побитовых операторах и числах с плавающей точкой +16
Заметки о мониторинге #1 — NaN в Prometheus +5
Double or Nothing +8
Быстрое сравнение double +45
Новый подход может помочь нам избавиться от вычислений с плавающей запятой +95
Снова о числах с плавающей точкой +1
Рекуррентные формулы для расчета ошибок итерационного суммирования двоичных чисел ограниченной длины +12
Вычисления с плавающей точкой: можно ли доверять результатам? +5
