Числовые данные, округление

На втором этапе, как правило, приходится заменять исходное уравнение или систему уравнений некоторыми другими уравнениями, которые позволяют построить численные методы их решения. При разработке численного метода исследователь сталкивается с целым рядом проблем. Во-первых, вычислительный алгоритм должен быть устойчивым, т. е. малые ошибки, допущенные на каком-либо этапе вычисления (например, при округлении числовых данных), при дальнейших вычислениях не должны иметь тенденции к существенному возрастанию. Во-вторых, численный метод должен обеспечивать сходимость к искомому решению. Дать строгое доказательство сходимости и устойчивости разработанного численного метода оказывается возможным далеко не всегда. В этой связи исследователь вынужден часто разрабатывать и использовать численный метод без строгого математического, обоснования его применимости. [c.53]

Энциклопедия по машиностроению XXL

Оборудование, материаловедение, механика и ...