Исходными данными для расчета являются нормируемые значения погрешности средства измерения, которые указываются всего с одной или двумя значащими цифрами. Следовательно, в окончательном значении рассчитанной погрешности должны быть оставлены одна-две значащие цифры. Например, если число 1,2 округляется до одной значащей цифры, то отбрасывание второго знака приводит к ошибке порядка 30-50%. И наоборот, если число 0,94 округлить до 0,9, то получается дезинформация, т.к. исходные данные не обеспечивают такой точности. В связи с этим приняты следующие правила округления значений:
1) погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной, если 3 и более;
2) результат измерения округляется до того же десятичного разряда, которым оканчиваетя округленное значение погрешности;
3) округление производится лишь в конечном ответе, а все предварительные вычисления проводятся с одним-двумя лишними знаками.
Недостатком этих правил является тот факт, что относительная погрешность от округления изменяется скачком при переходе, например, от числа 0,29 к числу 0,3 . Следовательно, для устранения скачка относительной погрешности предлагается каждую декаду возможных значений округляемой погрешности делить на три части: от 0,1 до 0,2; от 0,2 до 0,5 и от 0,5 до 1,0 - и в каждой использовать свой шаг округления: 0,02; 0,05 и 0,1. Тогда ряд разрешенных к употреблению округленных значений погрешности получает вид 0,10-0,12-0,14-0,16-0,18-0,20-0,25-0,30-0,35-0,40-0,45-0,5-0,6-0,7-0,8-0,9-1,0. Преимущество этого способа округления состоит в том, что погрешность от округления на границах участков изменяется лишь от 5 до 10%. Следовательно, последние цифры результат должны соответствовать приведенному ряду.
Поможем написать любую работу на аналогичную тему