Вычисления

Точность вычислений должна быть согласована с точностью самих измерений. При относительной погрешности измерений порядка 1+10% расчеты можно производить, пользуясь тремя значащими цифрами, при относительной погрешности измерений порядка 0, 1+1% можно пользоваться четырехзначными цифрами и т.д.

Следует различать понятия «значащие цифры» и верные знаки числа. Значащие цифры – это все цифры числа, кроме нулей, стоящих в начале. Число 0, 0247 имеет три значащие цифры (2, 4, 7). Количество верных знаков числа отсчитывается от первой значащей цифры числа до первой значащей цифры его абсолютной ошибки: например, если для числа а =0, 0247 абсолютная ошибка Δ а =0, 0032, то число а имеет один верный знак (2), остальные знаки сомнительные.

Чтобы уменьшить накопление ошибок округления при вычислениях, во всех данных для расчета следует сохранять не только верные знаки, но и несколько сомнительных. Количество сохраняемых сомнительных знаков зависит от объема расчетов: если количество выполняемых действий измеряется десятками, надо сохранять один-два сомнительных знака, если количество действий измеряется сотнями, надо сохранять два-три сомнительных знака [6].

Использование этих рекомендаций и правил приближенных действий приводит к тому, что погрешность вычислений как минимум на порядок (т.е. в 10 раз) меньше погрешности результата косвенных измерений. Поэтому арифметические операции не могут существенно исказить результаты измерений.

В лабораторном практикуме измерения одной и той же величины повторяют обычно не более 10 раз. Погрешность абсолютной погрешности при 10 и меньшем числе измерений более 30%. Поэтому случайную погрешность нет смысла определять с точностью более двух значащих цифр. Если у погрешности первая значащая цифра, и более, то в конечной записи можно оставить только одну значащую цифру. Таким образом, вычисление абсолютной и относительной погрешности прямых и косвенных измерений целесообразно производить не боле чем с двузначными цифрами. В записи окончательного результата косвенных измерений следует сохранять один сомнительный знак. Примеры записи окончательных результатов измерений:

;

.