Погрешности записи чисел в компьютере

Погрешности записи чисел в компьютере. Запись чисел с плавающей точкой, используемая в цифровых компьютерах, характеризуется тем, что плотность чисел в окрестности нуля гораздо выше, чем в окрестности больших чисел. В самом деле, существует столько же положительных чисел между минимально возможным числом и единицей (отрицательная экспонента), сколько между единицей и максимально возможным числом (положительная экспонента). Вследствие этого абсолютная точность записи чисел максимальна в окрестности нуля и намного ниже для больших чисел, но относительная точность примерно постоянна во всем числовом диапазоне. Поэтому относительные погрешности, связанные с записью чисел в компьютере, могут быть легко оценены. [c.143]

Энциклопедия по машиностроению XXL

Оборудование, материаловедение, механика и ...