Энциклопедия по машиностроению XXL

Оборудование, материаловедение, механика и ...

Статьи Чертежи Таблицы О сайте Реклама

Погрешности записи чисел в компьютере

Погрешности записи чисел в компьютере. Запись чисел с плавающей точкой, используемая в цифровых компьютерах, характеризуется тем, что плотность чисел в окрестности нуля гораздо выше, чем в окрестности больших чисел. В самом деле, существует столько же положительных чисел между минимально возможным числом и единицей (отрицательная экспонента), сколько между единицей и максимально возможным числом (положительная экспонента). Вследствие этого абсолютная точность записи чисел максимальна в окрестности нуля и намного ниже для больших чисел, но относительная точность примерно постоянна во всем числовом диапазоне. Поэтому относительные погрешности, связанные с записью чисел в компьютере, могут быть легко оценены.  [c.143]



Смотреть главы в:

Электронная и ионная оптика  -> Погрешности записи чисел в компьютере



ПОИСК



Запись

Компьютер



© 2025 Mash-xxl.info Реклама на сайте