Верные десятичные знаки

Следовательно, с точностью до трех верных десятичных знаков получим [c.138]

Пример. Вычислять 1п 1,01 с семью верными десятичными знаками. [c.142]

В то же время в статье югославского астронома Р. Верника в 1955 году приведен пример противоположного характера, когда при другом специальном выборе исходных данных можно вычислить суммы рядов Зундмана с тремя верными десятичными знаками, если ограничиться лишь первыми тремя членами каждого из этих рядов. [c.199]

Верные десятичные знаки в приближенных значениях чисел [c.57]

Приближенных величин верные десятичные знаки 57 [c.778]

Заметим, что если вернуться к энергетической шкале температур и подставить найденное значение а = /г , то коэффициент в законе Стефана - Больцмана и(Т) = о окажется равным ст = 8я / 5Ь с = = л а / 5е , где а = 2ле / кс / Ъ1 — постоянная тонкой структуры. Дирак обнаружил (неопубликованное сообщение), что это выражение с огромной точностью — до пяти десятичных знаков — равно о = (Лле) . Отсюда для величины обратной постоянной тонкой структуры имеем следующее примечательное выражение [c.250]

Вообще, найденное путем линейной интерполяции промежуточное значение верно с точностью менее единицы последнего десятичного знака, если вторая разность в соответствующем месте таблицы не превышает 4 единиц последнего десятичного знака. [c.52]

В помешенной рядом примере из табл. 1 первая разность равна 0,0036, с 35 единицами в 4-м десятичном знаке. Подразделение интервала между двумя соседними значениями аргумента л на 36 частей дает новое значение 868,03, 868,иб... с интервалом 0,03. Поэтому при интерполяции, будь то от л к корню или наоборот, присоединяется не больше 2 десятичных знаков и найденное по корню число п будет верно только до 3 единиц второго знака. [c.53]

В каждом приближенном числе, как правило, все цифры должны быть верными, за исключением последней цифры или последнего десятичного знака. [c.57]

Недостаток предложенного метода он не позволяет регулировать число итераций в зависимости от требуемой точности. Экспериментально установлено, что МСГ дает приблизительно равное приращение числа верных знаков за равное- число итераций. Например, если требуется получить всего пять верных знаков, то при использовании удвоенной точности на ЕС ЭВМ (16 десятичных цифр) решение можно получить примерно втрое быстрее, чем с помощью критерия (3.22). В управляющей процедуре решения СЛАУ с помощью МСГ (см. подразд. 3.8) использован двоякий критерий завершения итераций. На входе задается переменная ERROR, ограничивающая допустимое отношение нормы невязки к норме решения после завершения итераций. Если задано ERROR = О, процесс итераций прекращается по критерию (3.22), в противном случае — по условию [c.42]

В ряде случаев сама основная кинематическая схема лишь приближенно обеспечивает получение требуемой поверхности. Например, при нарезании конической шестерни мoдvльнoй фрезой получить точный профиль зуба невозможно. При нарезании резьб с шагом, выражающимся десятичной дробью с большим числом знаков, приходится заменять эту дробь непрерывной и уже тогда осуществлять подбор шестерен шаг винта, очевидно, получится лишь приближенно верным. [c.13]

Энциклопедия по машиностроению XXL

Оборудование, материаловедение, механика и ...