Запись результатов измерений
Результат измерения должен содержать не только полученное значение измеряемой величины, но и обязательно характеристики его погрешности с указанием числа наблюдений и доверительной вероятности. Числовое значение результата округляют в соответствии с числовым разрядом значащей цифры погрешности измерений. Лишние цифры в целых числах заменяются нулями, в десятичных дробях отбрасываются. Если десятичная дробь оканчивается нулями, они отбрасываются только до того разряда, который соответствует разряду погрешности.
Пример: результат 1,072000, погрешность ±0,0001. Результат округляют до 1,0720.
Если первая (слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, остающиеся цифры не изменяются. Если первая из этих цифр равна 5, а за ней не следует никаких цифр или идут нули, то, если последняя цифра в округляемом числе четная или нуль, она остается без изменения, если нечетная - увеличивается на единицу. Пример: 1234,50 округляют до 1234; 8765,50 - до 8766.
Если первая из заменяемых нулями или отбрасываемых цифр больше 5 или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра увеличивается на единицу.
Пример: 6783,6 округляют до 6784; 12,34501 до 12,35.
Погрешность, возникающая в результате вычислений, не должна превышать 10% суммарной погрешности измерений. Поэтому если над результатами измерений (наблюдений) предстоит произвести некоторые математические операции, то при округлении результатов добавляют один разряд справа, то есть в первом примере результат 1,072000 нужно округлить не до 1,0720, а до 1,07200.
При определении числа знаков при вычислении погрешностей измерений следует учитывать, что погрешность определения значения погрешности достаточно велика, порядка 30 % при n = 10 и порядка 15 % приn = 20-25, поэтому, при n = 10 следует оставлять одну значащую цифру, если она больше трех, и две, если первая из них меньше четырех.
Пример: если при n = 10, s = 0,523, оставляем значение s = 0,5; если при n = 10, s = 0,253, оставляем значение s = 0,25. При более 10 достаточно надежно оставлять во всех случаях две значащие цифры.
см. также
Математическая обработка результатов химического анализа
- О математической обработке результатов химического анализа
- Оценка погрешностей измерений. Расчет выборочного стандартного отклонения
- Запись результатов измерений
- Сравнение средних результатов химического анализа.
t-критерий Стьюдента - Проблема подозрительно выделяющихся значений
- Погрешности косвенных измерений. Погрешность функций одного или нескольких переменных