Правила приближённых вычислений

1. Запись приближённых чисел

1.1. Результат измерения – приближённое число, точность которого определяется ошибкой. Округлять его нужно так, чтобы оно оканчивалось цифрой того же разряда, что и погрешность. Пусть результат измерения 1.2763, ошибка 0, 02. Цифры 1, 2 – верные, 7 – сомнительная, 6, 3 – неверные. Верные и сомнительные цифры называют значащими. Нули, стоящие слева, в значащие цифры не входят.

1.2. Если ошибка заранее не известна, в вычислениях ориентируются на ошибку прибора.

1.3. В справочниках величины указаны с одной сомнительной цифрой, максимальная ошибка – половина единицы сомнительной цифры.

1.4. При записи результата измерений сохраняют только значащие цифры, округляя результат

2. Вычисления с приближёнными числами

2.1. Прежде, чем проводить вычисления, округлите все данные, оставив одну сомнительную цифру.

2.2. При сложении и вычитании округлите все слагаемые до сомнительной цифры высшего разряда, который встречается среди слагаемых. Пример: 0, 847+3, 14+0, 936+0, 746+0, 383+0, 002 Сомнительная цифра высшего разряда 4 во втором числе, округляем до сотых: 0, 85+0, 94+3, 14+0, 07+0, 04+0, 00=5, 04

2.3. При умножении и делении в полученном результате оставляют столько значащих цифр, сколько их в исходном числе с наименьшим количеством значащих цифр. Пример:

2.4. При возведении в степень и извлечении корня в результате оставляют значащих цифр столько, сколько их в основании. Пример: