Предел точности вычисления при обработке результатов измерений

Произведя числовую обработку результатов измерений, нецелесообразно вести вычисления дальше того предела точности, какой имел место в измерении. Поэтому точность вычислений нужно доводить до такой степени, чтобы погрешность выражалась последним знаком.

Например, при вычислении ускорения свободного падения по опытным данным получили результат g = 9, 81671 м/с², а Dg = 0, 018 м/с². Абсолютная ошибка показывает, в каком знаке содержится неточность. Поэтому абсолютную ошибку надо округлить до одной значащей цифры Dg = 0, 02 м/с². То есть ошибка содержится в сотых долях, поэтому результат вычисления нужно округлить g = 9, 82 м/с², а вероятное значение ускорения записать так:

g = (9, 82 ± 0, 02) м/с².

Записывая результат опыта, принято ставить запятую после первой, отличной от нуля, значащей цифры, а полученное число умножить на соответствующую степень десяти. Например: 0, 0348 = 3, 48 × 10^-2;

300000 = 3, 000 × 10⁵ (подчеркнутые нули - сомнительны). Если вычисления дали, например, результат ρ = (7820, 5 ± 18) кг/м³, то его нужно записать так:

ρ = (7, 82 ± 0, 02) × 10³ кг/м³.

«Волчьи ямы» округления.

Американский математик Уилкинсон исследовал уравнение (х - 1)(х - 2)(х - 3) …(х - 20) = х²⁰ – 210 х¹⁹ +…+20! = 0.

Он заменил коэффициент – 210 на – (210 + 2^-23), то есть увеличил его примерно на 10^-7. Ни один из корней нового уравнения не был близок к корням 11, 13, 15 старого, причем среди них оказались и комплексные корни.

Этот пример убеждает, какую каверзную роль может сыграть в расчетах изменение даже далеких от запятой значащих цифр. А ведь таким риском нередко чреваты вычисления на микрокалькуляторе. Все, что лежит за пределами его восьмиразрядного индикатора, отсекается, и возникают ошибки округления. Опыт вычислений на бумаге не воспитывает в нас осторожности по отношению к ним: эффекты округления видны воочию; опасаясь ошибки, можно менять число удерживаемых разрядов. При счете на калькуляторе приходится доверяться машине, и может случиться так, что основную часть полученного ответа составят ошибки округления, отчего ответ окажется, весьма далеким от истинного.

Наиболее опасной в смысле потери точности операций является вычитание близких друг к другу чисел.

Попробуем вычислить на микрокалькуляторе е^-10 согласно разложению

Вместо истинного результата 0, 0000454 получается 0, 0001112 – число, в 2, 5 раза больше. Откуда же набежала погрешность? Покуда в слагаемых ряда рост факториала в знаменателе обгонит рост степени в числителе, они возрастают до десятого включительно, принимая значения, превосходящие 2000. А так как счет ведется только до восьми значащих цифр, то ответ получается с точностью лишь до 0, 0001. Вот и набегают ошибки, значительно превосходящие искомый ответ. Чтобы получить верный результат, надо записать е^-10 в виде , разложить знаменатель этой дроби в ряд

а затем от найденной суммы ряда взять обратную величину.

Разумеется, нет смысла считать е^-10 на калькуляторе, имеющем клавишу е^х. Но ведь иногда приходится вычислять значения и более экзотических функций, скажем, бесселевой или гипергеометрической, используя опять-таки степенные ряды, где подстерегают «волчьи ямы» округления.

Ошибки, вызванные вычитанием мало отличающихся друг от друга чисел, могут возникнуть и при такой простой операции, как нахождение корней квадратного уравнения: . Если значительно превосходит 4 ас, то в числителе формулы приходится вычитать именно такие числа. Например, решая на микрокалькуляторе уравнение , вместо одного из корней 0, 0000100 мы получим нуль. Это уже никуда не годится.

Такие примеры напоминают: применение микрокалькулятора, как использование любого технического устройства, предъявляет свои требования к выбору методов работы и к ясности понимания того, что может и чего не может сделать данное устройство.

Н и Ж, № 12, 1985 г., с. 130