Пример обработки результатов прямого измерения

Измерялась длина l стержня штангенциркуля с ценой деления D = 0, 1 мм. Полученные данные приведены в нижеследующей таблице (вторая колонка).

1) Находим мм и среднее значение < l> = = 20, 68 мм.

2) Находим (l_i - < l>), (l_i -< l>)² и å (l_i - < l>)² =1884·10^-4 мм².

3) Задаемся надежностью a = 0, 95 и по таблице (приложение 1) находим t _{a, n} = 2, 57 и t_{a, ¥} = 1, 96.

4) Вычисляем абсолютную и случайную погрешности

D l_cл = t_{a, n} мм.

5) Устанавливаем предельную погрешность прибора D l_пр = D =0, 1 мм и вычисляем приборную погрешность

D l_пр^ст = t_{a, ¥} /3 × D = 1, 96/3 × 0, 1 = 0, 085 мм.

6) Погрешность округления. Отсчет по нониусу округлялся до целого деления, значит, h = D = 0, 1 мм, и

D l_окр = a × h / 2 = 0, 95 × 0, 1/2 = 0, 048 мм.

7) Полная абсолютная погрешность

D l = мм = 0, 22 м.

8) Относительная погрешность

e _l = D l/< l> = 0, 22/20, 68 = 0, 0106; e»1, 1 %.

9) Итог: l = (22, 7 ± 0, 2) мм. e» 1% при a = 0, 95.

ПРИЛОЖЕНИЕ 3