Запись результатов измерений


Результат измерения должен содержать не только полученное значение измеряемой величины, но и обязательно характеристики его погрешности с указанием числа наблюдений и доверительной вероятности. Числовое значение результата округляют в соответствии с числовым разрядом значащей цифры погрешности измерений. Лишние цифры в целых числах заменяются нулями, в десятичных дробях ­отбрасываются. Если десятичная дробь оканчивается нулями, они отбрасываются только до того разряда, который соответствует разряду погрешности.

Пример: результат 1,072000, погрешность ±0,0001. Результат округляют до 1,0720.
Если первая (слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, остающиеся цифры не изменяются. Если первая из этих цифр равна 5, а за ней не следует никаких цифр или идут нули, то, если последняя цифра в округляемом числе четная или нуль, она остается без изменения, если нечетная - увеличивается на единицу. Пример: 1234,50 округляют до 1234; 8765,50 - до 8766.

Если первая из заменяемых нулями или отбрасываемых цифр больше 5 или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра увеличивается на единицу.
Пример: 6783,6 округляют до 6784; 12,34501 до 12,35.

Погрешность, возникающая в результате вычислений, не должна превышать 10% суммарной погрешности измерений. Поэтому если над результатами измерений (наблюдений) предстоит произвести некоторые математические операции, то при округлении результатов добавляют один разряд справа, то есть в первом примере результат 1,072000 нужно округлить не до 1,0720, а до 1,07200.
При определении числа знаков при вычислении погрешностей измерений следует учитывать, что погрешность определения значения погрешности достаточно велика, порядка 30 % при n = 10 и порядка 15 % приn = 20-25, поэтому, при n = 10 следует оставлять одну значащую цифру, если она больше трех, и две, если первая из них меньше четырех.
Пример: если при n = 10, s = 0,523, оставляем значение s = 0,5; если при n = 10, s = 0,253, оставляем значение s = 0,25. При более 10 достаточно надежно оставлять во всех случаях две значащие цифры.

 

 

см. также

Математическая обработка результатов химического анализа

  1. О математической обработке результатов химического анализа
  2. Оценка погрешностей измерений. Расчет выборочного стандартного отклонения
  3. Запись результатов измерений
  4. Сравнение средних результатов химического анализа.
    t-критерий Стьюдента
  5. Проблема подозрительно выделяющихся значений
  6. Погрешности косвенных измерений. Погрешность функций одного или нескольких переменных