Округление результатов физических и технических измерений

Представление числовых данных является важным элементом любых исследований. Любые данные, добываемые или обрабатываемые в ходе эксперимента, как правило, получены с помощью средств измерений, поэтому корректное их представление входит в сферу интересов и ответственности метро-логии. Числовые данные часто представляются со слишком большим количеством значащих цифр или знаков после запятой, что может приводить к фиктивной точности и чрезмерным затратам на хранение данных. Поэтому представления результатов измерений необходимым и достаточным ограниченным числом значащих цифр является актуальной проблемой.

Введение 13
1 Основные понятия 14
1.1 Представление вещественных чисел 14
1.2 Значащие цифры в вычислениях 15
2 Процедуры округления результатов измерений 17
2.1 Стандартизованные процедуры округления 17
2.2 Практика применения правил округления на производстве и в ву- 20
зах
2.3 Правила округления результатов измерений по П.Т. Ульриху 23
3 Применения правила округления по П.Т. Ульриху 35
3.1 Пример округления результатов многократных измерений посто- 35
янного напряжения
3.2 Пример округления результатов измерений, полученных в усло- 36
виях повторяемости
3.3 Пример округления результатов измерений, полученных в усло- 38
виях прецизионности
3.4 Пример округления результатов измерений, полученных в усло- 44
виях повторяемости косвенным методом
4 Финансовый менеджмент, ресурсоэффективность и ресурсосбережение 48
4.1 Потенциальные потребители результатов исследования 48
4.2 Организация и планирование работ 49
4.3 Расчет сметы затрат на выполнение проекта 54
4.4 Оценка научного уровня 59
5 Социальная ответственность 62
5.1 Правовые и организационные вопросы обеспечения безопасности 62
5.2 Организационные мероприятия при компоновке рабочей зоны 63
5.3 Производственная безопасность 64
5.4 Экологическая безопасность 73
5.5 Безопасность в чрезвычайных ситуациях 74
Заключение 78
Список использованной литературы 79
Приложение А (справочное) Rounding physical and technical measurements 82

1. В работе изучены существующие процедуры округления результатов изме-
рений физических и технических измерений, рекомендуемые в нормативных
документах и используемые на производстве и в вузах;
2. Рассмотрена и исследована процедура округления результата измерения,
предложенная П.Т. Ульрихом, с математическим обоснованием на основе
поправки Шеппарда.
3. Рассмотрены примеры практического применения процедуры округления ре-
зультата измерения по П.Т. Ульриху для типовых измерительных ситуаций.
4. Сравнение полученных результатов с результатами округления на основе
стандартной процедуры, рекомендованной в ГОСТ 8.736-2011, показало, что
в некоторых случаях число значащих цифр в округленном результате на еди-
ницу больше для округления по П.Т. Ульриху.
5. Округление по П.Т. Ульриху можно рекомендовать для практического при-
менения в силу его зависимости от среднеквадратического отклонения
округляемых результатов.

1 Холявко В. Н. Измерение физических величин. Лабораторный практи-
кум по физике: учебное пособие. – Новосибирск: Изд. НГТУ, 2012. – 58 с.
2 ГОСТ Р 8.736-2011 Государственная система обеспечения единства
измерений (ГСИ). Измерения прямые многократные. Методы обработки ре-
зультатов измерений. Основные положения, 2019. – 19 с.
3 МИ 1317-2004 Рекомендация. Государственная система обеспечения
единства измерений. Результаты и характеристики погрешности измерений.
Формы представления. Способы использования при испытаниях образцов про-
дукции и контроле их параметров. – М.: Изд-во стандартов, 2004. – 53 с.
4 ПМГ 96-2009 Государственная система обеспечения единства измере-
ний (ГСИ). Результаты и характеристики качества измерений. Формы пред-
ставления. – М.: Стандартинформ, 2010. – 10 с.
5 СТ СЭВ 543-77 Числа. Правила записи и округления. – М.: Изд-во
стандартов, 1978. – 4 с.
6 JCGM GUM-6:2020 « Guide to the expression of uncertainty in measure-
ment — Part 6: Developing and using measurement models». – Saint-Cloud. – 2020.
–103 c.
7 NIST GLP 9: 2014 Good Laboratory Practice for Rounding Expanded Un-
certainties and Calibration Values. National Institute for Standards and Technology. –
Gaithersburg. – 2014. – 3 с.
8 Wilrich P.T. Rounding of measurement values or derived values / P.-Th.
Wilrich // Measurement. – 2005. – Vol. 37. – P. 21-30.
9 DIN 1319 Part 3, Basic concepts in metrology, Evaluating measurements of
a single measurand and expression of uncertainty, Deutsches Institut fur Normung,
Berlin, 1996. – 35 с.
10 DIN 1313. Zahlenangaben, Deutsches Institut fur Normung, Berlin, 1998.
– 17 с.
11 International Union of Pure and Applied Chemistry, Protocol for the de-
sign, conduct and interpretation of collaborative studies, Pure and Applied Chemis-
try, vol. 60, 1988, pp. 855–864.
12 Аккредитация в Росаккредитации. https://rosakkreditatsiya-forum.ru/
(дата обращения 16.04.2021)
13 Кравченко Н. С., Ревинская О. Г. Методы обработки результатов из-
мерений и оценки погрешностей в учебном лабораторном практикуме: Учебное
пособие. – Томск : ТПУ, 2011 – 86 c.
14 De Anza College. Microsoft Word – Uncertainties and Significant Fig-
ures.doc (deanza.edu) (дата обращения 16.04.2021).
15 Массачусетский технологический институт. Significant Figures
(mit.edu) (дата обращения 16.04.2021.
16 Университет Пердью. PHYSICS 218 LABORATORY (purdue.edu) (да-
та обращения 16.04.2021).
17 Гаврикова Н.А., Тухватулина Л.Р., Видяев И.Г. Финансовый менедж-
мент, Ресурсоэфективность и ресурсосбережение. − Томск: Изд-во Томского
политехнического университета, 2014. – 73 с.
18 ГОСТ 12.0.003-2015 Система стандартов безопасности труда. Опас-
ные и вредные производственные факторы. Классификация. – М.: «Стандар-
тинформ», 2016. – 16 с.;
19 СанПиН 2.2.4.548-96 Гигиенические требования к микроклимату
производственных помещений. – М.: «Минздрав России», 1997. – 21 с.;
20 ГОСТ Р ИСО 9241-5-2009. Эргономические требования к проведению
офисных работ с использованием видеодисплейных терминалов (VDT). Часть
5. Требования к расположению рабочей станции и осанке оператора. –
М.:«Стандартинформ», 2010. – 22 с.;
21 СанПиН 1.2.3685-21 “Гигиенические нормативы и требования к обес-
печению безопасности и (или) безвредности для человека факторов среды оби-
тания”– М.: «Минздрав России», 2021. – 452 с.;
22 СНиП 23-05-95· Естественное и искусственное освещение рабочее
место должно быть освещено как естественным, так и искусственным освеще-
нием. –М.: «Госстрой», 2004. – 43.;
23 Р 2.2.2006-05 Гигиена труда. Руководство по гигиенической оценке
факторов рабочей среды и трудового процесса. Критерии и классификация
условий труда. – М.: «Госсанэпиднадзор», 2005. – 142.;
24 ГОСТ 12.1.030-81 Система стандартов безопасности труда. Защитное
заземление, зануление. – М.: «Стандартинформ», 2016. – 10 с.;
25 ГОСТ 12.1.038-82 Система стандартов безопасности труда. Электро-
безопасность. Предельно допустимые значения напряжений прикосновения и
токов. – М.: «Стандартинформ», 2016. – 6 с.;
26 ГОСТ Р 12.1.019-2009 Система стандартов безопасности труда. Элек-
тробезопасность. Общие требования и номенклатура видов защиты. – М.:
«Стандартинформ», 2010. – 25 с.;
27 СН 2.2.4/ 2.1.8.562-96 Шум на рабочих местах, в помещениях жилых,
общественных зданий и на территории жилой застройки. Санитарные нормы –
М.: «Минздрав России», 1997. – 11 с.;
28 СП 2.2.3670-20 «Санитарно-эпидемиологические требования к усло-
виям труда»– М.: «Минздрав России», 2020. – 49.;
29 ГОСТ 17.4.3.04-85 ССОП Охрана природы. Почвы. – М.: «Стандар-
тинформ», 2008. – 5 с.;
30 ГОСТ Р 22.0.02-2016 Безопасность в чрезвычайных ситуациях. Тер-
мины и определения. – М.: «Стандартинформ», 2016. – 12 с.;
31 ГОСТ 12.1.004-91 ССБТ Пожарная безопасность– М.: «Стандартин-
форм», 2006. – 64 с.;
32 Назаренко О.Б. Расчет искусственного освещения. Методические
указания к выполнению индивидуальных заданий для студентов дневного и за-
очного обучения всех направлений и специальностей ТПУ. – Томск: Изд. ТПУ,
2008. – 20 с.