![](https://expert-mik.ru/wp-content/themes/24author/assets/img/work/work-img.png)
Совершенствование алгоритмического и программного обеспечения процессов обработки информационных сигналов систем мониторинга природных и техногенных объектов на основе статистического подхода
ВВЕДЕНИЕ ………………………………………………………………………………… 4
1. Анализ методов обработки информации в системах мониторинга ….. 12
1.1. Общие принципы сбора, хранения и обработки информации в
системах мониторинга природных и техногенных объектов …………. 12
1.2. Алгоритмы для выявления аномалий в системах мониторинга
природных и техногенных объектов ………………………………………… 21
1.2.1. Типы идентифицируемых аномалий……………………………………. 21
1.2.2. Алгоритмы и методы идентификации аномалий ……………………. 23
1.3. Выбор и обоснование направлений исследований ………………………. 30
Выводы ……………………………………………………………………………………. 34
2. Разработка алгоритмического обеспечения для выделения
нарушений закономернос тей в поведении сигнала ……………………… 36
2.1. Разработка общей методики и модели для проведения
исследований………………………………………………………………………. 36
2.2. Разработка и модификация алгоритмов для обнаружения в
сигнале перепадов уровня ……………………………………………………… 40
2.2.1. Алгоритм на основе сравнения средних скоростей изменения ….. 41
2.2.2. Алгоритмы для обнаружения перепадов с применением средства
визуализации временных рядов candlestick………………………………… 46
2.3. Алгоритмы обнаружения в сигнале аномальных выбросов …………… 49
2.3.1. Метод на основе анализа отклонения тренда временного ряда ….. 50
2.3.2. Алгоритмы для обнаружения выбросов с применением средства
визуализации временных рядов boxplot…………………………………….. 52
2.3.3. Модифицированный алгоритм Z-score…………………………………. 53
2.3.4. Сравнение различных методов обнаружения выбросов …………… 54
2.4. Обнаружение нарушений цикличности в периодических
процессах с помощью модифицированного паттерна форм
(МПФ)……………………………………………………………………………….. 56
2.5. Применение МПФ для восстановления пропущенных данных и
для краткосрочного прогнозирования ………………………………………. 62
Выводы ……………………………………………………………………………………. 65
3. Совершенствование методов обработки и хранения данных
мониторинга ……………………………………………………………………….. 66
3.1. Общая постановка задачи ………………………………………………………. 66
3.2. Методы на основе выбора базисной системы отсчетов,
нормировки и структуризации данных ……………………………………… 69
3.3. Методы сжатия на основе разностных схем ………………………………. 74
3.3.1. Модификация разностных методов сжатия без потери данных …. 75
3.3.2. Модификация методов сжатия с частичной потерей данных ……. 80
3.4. Сравнительная оценка различных методов сжатия данных …………… 89
Выводы ……………………………………………………………………………………. 98
4. Практическая реализация результатов исследований в системах
мониторинга ……………………………………………………………………….. 99
4.1. Программно-техническое обеспечение комплексов для
проведения экспериментальных исследований …………………………… 99
4.1.1. Обобщенная структурная схема разработанных систем …………… 99
4.1.2. Программно-техническое обеспечение системы мониторинга … 105
4.2. Практическое применение разработанных систем мониторинга
для выделения аномалий ……………………………………………………… 112
4.2.1. Информационно-измерительная система АлтГТУ………………… 112
4.2.2. Выделение аномалий при метеонаблюдениях ……………………… 121
4.2.3. Выделение аномалий в системах контроля техногенных объектов 126
4.3. Перспективы применения разработанного программно-
технического обеспечения для решения задач климатического и
технического мониторинга природных и техногенных объектов ….. 132
Выводы ………………………………………………………………………………….. 137
Список литературы …………………………………………………………………… 138
Список использованных сокращений ……………………………………………. 154
Список использованных обозначений …………………………………………… 155
Приложение A. Копии документов о внедрении результатов
диссертационной работы ……………………………………………………… 157
Актуальность.
В последнее время методы непрерывного оперативного контроля получа-
ют все большую востребованность при решении задач технического и при-
родного мониторинга в связи с ужесточением регламента реализации техно-
логических процессов, участившимися случаями возникновения различных
экстремальных ситуаций, техногенных и экологических катастроф, развити-
ем фундаментальных исследований в области изучения свойств природной
среды и климатических явлений.
При этом, из-за масштабности современных производств и необходимо-
сти осуществления контроля и выявления нештатных ситуаций на больших
территориях возникает проблема необходимости эффективного сбора, обра-
ботки и хранения большого объема данных с огромного числа первичных
измерительных преобразователей.
Однако, существующие системы мониторинга используют для идентифи-
кации нарушений закономерностей в регистрируемых на объектах контроля
информативных сигналах преимущественно пороговые методы, в которых
величина порога должна устанавливаться при настройке системы и не зави-
сит от особенностей динамики информативных сигналов. Кроме того, с раз-
витием телекоммуникационной инфраструктуры и удешевлением устройств
первичного сбора данных резко возрос объем измерительной информации,
что привело к проблеме не только ее своевременной потоковой обработки, но
и передачи, хранения и обеспечения к ней оперативного доступа.
В этой связи становится актуальной разработка информационного обес-
печения, программно-технических средств и алгоритмических решений, спо-
собных эффективно выявлять аномалии и нарушения закономерностей в кон-
тролируемых процессах с учетом их особенностей, а также минимизировать
объем передаваемой и хранимой информации без потери ее прагматической
ценности.
Объектом исследования являются собираемые с первичных измеритель-
ных преобразователей данные оперативного контроля техногенных и при-
родных объектов, а также методы, необходимые для их непрерывной диагно-
стики и выявления нарушений их функционирования.
Предмет исследования – алгоритмы на основе статистических методов
сбора, хранения и обработки информативных сигналов, формируемых в си-
стемах непрерывного оперативного мониторинга природных и техногенных
объектов.
Таким образом, основной целью диссертационного исследования явля-
ется совершенствование алгоритмического и программного обеспечения си-
стем мониторинга техногенных и природных объектов путём модификации
статистических алгоритмов, используемых для выявления нарушений зако-
номерностей в информативных сигналах контролируемых техногенных и
природных объектов и обеспечение компактификации передачи и хранения
таких сигналов.
Выявленными противоречиями предмета исследования, которые опре-
деляют научную проблему и перечень научных задач, являются высокий
уровень развития программно-аппаратного обеспечения оперативного кон-
троля на основе SCADA – систем и постоянный рост вычислительных воз-
можностей систем обработки данных – с одной стороны, и отсутствие эф-
фективных методов обработки информативных сигналов и методов их хра-
нения, учитывающих закономерности в контролируемых процессах.
Данная область исследований соответствует следующим пунктам паспор-
та специальности ВАК 05.11.13: п.4. «Разработка методического, техническо-
го, приборного и информационного обеспечения для локальных, региональ-
ных и глобальных систем экологического мониторинга природных и техно-
генных объектов» и п.6 «Разработка алгоритмического и программно-
технического обеспечения процессов обработки информативных сигналов и
представление результатов в приборах и средствах контроля, автоматизация
приборов контроля».
Для достижения поставленной цели в диссертационной работе были
сформулированы следующие задачи:
– провести анализ методов выявления и идентификации аномалий и иных
нарушений закономерностей в информативных сигналах систем монито-
ринга;
– осуществить модификацию существующих онлайновых методов обнару-
жения таких аномалий в сигналах системы мониторинга, как их перепады
и выбросы;
– для объектов контроля, характеризующихся наличием в них циклических
периодических процессов, усовершенствовать метод обнаружения такой
аномалии, как нарушение цикличности таких процессов и разработать ал-
горитмы восстановления потерянных и краткосрочного прогнозирования
наблюдаемых данных;
– разработать способы компактного хранения и передачи данных, получен-
ных в ходе мониторинга;
– осуществить апробацию разработанных методов и реализующего их алго-
ритмического и программно-технического обеспечения для решения
практических задач контроля в информационно-измерительных системах.
Основными методами решения поставленных задач являются методы
статистической обработки экспериментальных данных, методы вычисли-
тельной математики, методы цифровой обработки сигналов и методы теории
погрешностей.
Теоретической основой исследования служили труды учёных и специа-
листов, в числе которых J. Yang, R. Agrawal, S. Makridakis, F. Rasheed, G.
Welch, J. Contrera, J. W. Taylor, G. Anandalingam, K. Chitharanjan, C. Shahabi,
Z. Bakar , D. Janakiram, H. S. Hippert, B. Ryabko, J. C. Palomares-Salas, K. A.
Cullen, R. C. Tabony, T. Al-Hawari, W. Charytoniuk, E. Keogh, H. E. Solberg, P.
A. Hancock, C. J. Willmott, X. Song, M. G. Elfeky, B. Iglewicz, V. Barnett, Но-
виков М.М., Айвазян С.А., Дубров А.М., Елисеева И.И., Загоруйко Н.Г.,
Наследов А.Д., Попов В.Н, Пустыльник Е.И., Шпаков П.С., Юзбашев М.М.
и многие другие.
Научная новизна исследования заключается в совершенствовании ос-
нованного на применении статистического подхода алгоритмического и про-
граммного обеспечения, реализующего методы выявления нарушений зако-
номерностей в информативных сигналах контролируемых объектов и вклю-
чает следующие пункты:
1. Разработаны новые методы обнаружения выбросов и перепадов в контро-
лируемых системой мониторинга процессах на основе сравнения трендов
смежных интервалов наблюдения, а также предложена корректировка
значений пороговых уровней классических онлайновых методов обнару-
жения аномалий, что позволяет повысить точность обнаружения аномалий
в контролируемых системой мониторинга процессах.
2. Усовершенствован основанный на геометрических паттернах алгоритм
выявления нарушений цикличности в периодических сигналах, отличаю-
щийся от прототипа возможностью его применения в онлайновых режи-
мах измерений, учетом тренда на стадии формирования и применения
паттерна и повышенной достоверностью краткосрочного прогнозирования
и восстановления потерянных данных.
3. Разработаны основанные на разностных схемах модификации алгоритмов
компрессии данных как с потерями, так и без потерь, и организации их
хранения в целочисленном виде с учетом периода выборки, обеспечива-
ющие возможность хранения больших объемов информации для многока-
нальных систем мониторинга техногенных и природных объектов.
Обоснованность и достоверность научных положений, методов и реко-
мендаций обеспечивается за счет использования теоретически обоснованных
вычислительных методов, подтверждена результатами экспериментальной
проверки, наличием зарегистрированных в установленном порядке реализу-
ющих разработанные алгоритмы программных продуктов. Вычислительные
эксперименты выполнялись с помощью разработанных автором, в том числе
и зарегистрированных, прикладных программ.
Теоретическая ценность диссертации состоит в развитии статистиче-
ских методов идентификации аномалий в сигналах, основанных на учете
особенностей динамики изменения параметров контролируемых процессов в
системе мониторинга, а также в развитии методов онлайновой компактифи-
кации передаваемых и хранимых данных.
Практическая ценность диссертации заключается в том, что примене-
ние созданных в ходе проведения исследований алгоритмов обработки ин-
формативного сигнала и программно-технических решений для систем мони-
торинга техногенных и природных объектов позволяет:
– уменьшить вероятность появления ошибок первого и второго рода при
выявлении аномалий и иных нарушений присутствующих в сигнале зако-
номерностей;
– повысить быстродействие, а также сократить объем хранимых данных.
Это снижает требования, предъявляемые к используемым в приборах и мето-
дах контроля средствам вычислительной техники, положительно отражается
на эффективности работы системы оперативного контроля, расширяет ее
функциональность и спектр контролируемых параметров.
Реализация результатов работы.
Исследования по тематике диссертационной работы велись в рамках сле-
дующих госбюджетных НИР: «Моделирование динамических температур-
ных полей в системах экстраполирующего температурного мониторинга тех-
ногенных объектов» (2010-2012 гг.), государственного задания вузам на
2013-2015 гг. (тема «Развитие гибридных моделей и методов оценки и про-
гнозирования состояний техногенных, социально- экономических и природ-
ных объектов» (2013-2015 гг.).
Результаты работы внедрены и использовались при разработке системы
оперативного контроля потребления энергоресурсов университетского кам-
пуса АлтГТУ (г. Барнаул) и мониторинга метеоданных и в работах, выполня-
емых институтом водных и экологических проблем СО РАН.
Апробация работы. Результаты исследований апробированы на научно-
технических и научно-практических конференциях различного уровня: ВНК
“Инновационные процессы в гуманитарных, естественных и технических с и-
стемах” (Таганрог, 2012 г.), Международной НТК «Измерение, контроль, ин-
форматизация» (Барнаул, 2013, 2014, 2015, 2016 гг.), IV НПК “Информаци-
онно-измерительная техника и технологии” (Томск, 2013г.), II Всероссийской
с международным участием НПК по инновациям в неразрушающем контроле
SibTest (Томск, 2013 г), VI Международной научно-практической конферен-
ции «Многоядерные процессоры, параллельное программирование, ПЛИС,
системы обработки сигналов (МППОС– 2016)».
На защиту выносятся:
– модифицированные пороговые методы идентификации нарушений законо-
мерностей (перепады сигналов, выбросы, нарушения цикличности), наблю-
даемых в информативных сигналах контролируемых объектов, пригодные
для использования в режиме реального времени на устройствах с ограни-
ченными вычислительными ресурсами;
– метод формирования шаблона тренда по данным измерений с учетом тренда
детерминированной составляющей и применение шаблона для оценки
нарушения цикличности в информативных сигналах объектов, характери-
зующихся наличием в них периодических процессов, для восстановления
потерянных данных и для краткосрочного прогнозирования;
– модифицированные методы сжатия информативных сигналов в системах
![](https://expert-mik.ru/wp-content/themes/24author/assets/img/signup-document.png)
Помогаем с подготовкой сопроводительных документов
Хочешь уникальную работу?
Больше 3 000 экспертов уже готовы начать работу над твоим проектом!