ПОИСК Статьи Чертежи Таблицы Погрешности записи чисел в компьютере из "Электронная и ионная оптика " Проблема с записью чисел заключается в том, что такое число, как 2/3, очень просто выразить в математических обозначениях, но в компьютере оно превращается в 0,6666666. В представлении с плавающей точкой мантисса должна ограничиваться либо простым усечением, либо округлением ее значения до ближайшего числа с допустимым числом знаков. Хотя округление и приводит к меньшим ошибкам, чем усечение, оно имеет место в каждом элементарном акте вычислений, поэтому в ходе продолжительной численной процедуры ошибки округления могут накапливаться до неприемлемо большой величины. [c.143] С другой стороны, ошибка округления не зависит от численной процедуры. Она представляет собой просто разность между математически точным результатом некоторой вычислительной процедуры и результатом той же процедуры, выполненной компьютером. [c.143] Рассмотрим другой пример. Вычислите (1,47-10 + 2,19- 10 ) — (1,69-10 +10 ) с точностью до трех знаков. Результат — нуль. Изменяя порядок вычислений, получим —200 ООО. [c.144] Необходимо также быть аккуратным при возведении в степень. Общее правило состоит в том, чтобы избегать его. Обычно точность выражения ЛХЛ выше, чем Л . Причина в том, что возведение в степень производится с использованием логарифма, что дает гораздо меньшую точность, чем простое умножение. Однако есть ряд исключений. Если число, очень близкое к единице, возводится в огромную степень, лучше использовать операцию возведения в степень ошибки округления многократно повторенных операций умножения могут привести в совокупности к такой огромной ошибке, что окончательный результат не будет иметь ничего общего с правильным. [c.144] Вернуться к основной статье