Совершенствование алгоритмического и программного обеспечения процессов обработки информационных сигналов систем мониторинга природных и техногенных объектов на основе статистического подхода

Хуссейн Шиабат Аль Хамд Могахед Хуссейн
Бесплатно
В избранное
Работа доступна по лицензии Creative Commons:«Attribution» 4.0

ВВЕДЕНИЕ ………………………………………………………………………………… 4
1. Анализ методов обработки информации в системах мониторинга ….. 12
1.1. Общие принципы сбора, хранения и обработки информации в
системах мониторинга природных и техногенных объектов …………. 12
1.2. Алгоритмы для выявления аномалий в системах мониторинга
природных и техногенных объектов ………………………………………… 21
1.2.1. Типы идентифицируемых аномалий……………………………………. 21
1.2.2. Алгоритмы и методы идентификации аномалий ……………………. 23
1.3. Выбор и обоснование направлений исследований ………………………. 30
Выводы ……………………………………………………………………………………. 34
2. Разработка алгоритмического обеспечения для выделения
нарушений закономернос тей в поведении сигнала ……………………… 36
2.1. Разработка общей методики и модели для проведения
исследований………………………………………………………………………. 36
2.2. Разработка и модификация алгоритмов для обнаружения в
сигнале перепадов уровня ……………………………………………………… 40
2.2.1. Алгоритм на основе сравнения средних скоростей изменения ….. 41
2.2.2. Алгоритмы для обнаружения перепадов с применением средства
визуализации временных рядов candlestick………………………………… 46
2.3. Алгоритмы обнаружения в сигнале аномальных выбросов …………… 49
2.3.1. Метод на основе анализа отклонения тренда временного ряда ….. 50
2.3.2. Алгоритмы для обнаружения выбросов с применением средства
визуализации временных рядов boxplot…………………………………….. 52
2.3.3. Модифицированный алгоритм Z-score…………………………………. 53
2.3.4. Сравнение различных методов обнаружения выбросов …………… 54
2.4. Обнаружение нарушений цикличности в периодических
процессах с помощью модифицированного паттерна форм
(МПФ)……………………………………………………………………………….. 56
2.5. Применение МПФ для восстановления пропущенных данных и
для краткосрочного прогнозирования ………………………………………. 62
Выводы ……………………………………………………………………………………. 65
3. Совершенствование методов обработки и хранения данных
мониторинга ……………………………………………………………………….. 66
3.1. Общая постановка задачи ………………………………………………………. 66
3.2. Методы на основе выбора базисной системы отсчетов,
нормировки и структуризации данных ……………………………………… 69
3.3. Методы сжатия на основе разностных схем ………………………………. 74
3.3.1. Модификация разностных методов сжатия без потери данных …. 75
3.3.2. Модификация методов сжатия с частичной потерей данных ……. 80
3.4. Сравнительная оценка различных методов сжатия данных …………… 89
Выводы ……………………………………………………………………………………. 98
4. Практическая реализация результатов исследований в системах
мониторинга ……………………………………………………………………….. 99
4.1. Программно-техническое обеспечение комплексов для
проведения экспериментальных исследований …………………………… 99
4.1.1. Обобщенная структурная схема разработанных систем …………… 99
4.1.2. Программно-техническое обеспечение системы мониторинга … 105
4.2. Практическое применение разработанных систем мониторинга
для выделения аномалий ……………………………………………………… 112
4.2.1. Информационно-измерительная система АлтГТУ………………… 112
4.2.2. Выделение аномалий при метеонаблюдениях ……………………… 121
4.2.3. Выделение аномалий в системах контроля техногенных объектов 126
4.3. Перспективы применения разработанного программно-
технического обеспечения для решения задач климатического и
технического мониторинга природных и техногенных объектов ….. 132
Выводы ………………………………………………………………………………….. 137
Список литературы …………………………………………………………………… 138
Список использованных сокращений ……………………………………………. 154
Список использованных обозначений …………………………………………… 155
Приложение A. Копии документов о внедрении результатов
диссертационной работы ……………………………………………………… 157

Актуальность.
В последнее время методы непрерывного оперативного контроля получа-
ют все большую востребованность при решении задач технического и при-
родного мониторинга в связи с ужесточением регламента реализации техно-
логических процессов, участившимися случаями возникновения различных
экстремальных ситуаций, техногенных и экологических катастроф, развити-
ем фундаментальных исследований в области изучения свойств природной
среды и климатических явлений.
При этом, из-за масштабности современных производств и необходимо-
сти осуществления контроля и выявления нештатных ситуаций на больших
территориях возникает проблема необходимости эффективного сбора, обра-
ботки и хранения большого объема данных с огромного числа первичных
измерительных преобразователей.
Однако, существующие системы мониторинга используют для идентифи-
кации нарушений закономерностей в регистрируемых на объектах контроля
информативных сигналах преимущественно пороговые методы, в которых
величина порога должна устанавливаться при настройке системы и не зави-
сит от особенностей динамики информативных сигналов. Кроме того, с раз-
витием телекоммуникационной инфраструктуры и удешевлением устройств
первичного сбора данных резко возрос объем измерительной информации,
что привело к проблеме не только ее своевременной потоковой обработки, но
и передачи, хранения и обеспечения к ней оперативного доступа.
В этой связи становится актуальной разработка информационного обес-
печения, программно-технических средств и алгоритмических решений, спо-
собных эффективно выявлять аномалии и нарушения закономерностей в кон-
тролируемых процессах с учетом их особенностей, а также минимизировать
объем передаваемой и хранимой информации без потери ее прагматической
ценности.
Объектом исследования являются собираемые с первичных измеритель-
ных преобразователей данные оперативного контроля техногенных и при-
родных объектов, а также методы, необходимые для их непрерывной диагно-
стики и выявления нарушений их функционирования.
Предмет исследования – алгоритмы на основе статистических методов
сбора, хранения и обработки информативных сигналов, формируемых в си-
стемах непрерывного оперативного мониторинга природных и техногенных
объектов.
Таким образом, основной целью диссертационного исследования явля-
ется совершенствование алгоритмического и программного обеспечения си-
стем мониторинга техногенных и природных объектов путём модификации
статистических алгоритмов, используемых для выявления нарушений зако-
номерностей в информативных сигналах контролируемых техногенных и
природных объектов и обеспечение компактификации передачи и хранения
таких сигналов.
Выявленными противоречиями предмета исследования, которые опре-
деляют научную проблему и перечень научных задач, являются высокий
уровень развития программно-аппаратного обеспечения оперативного кон-
троля на основе SCADA – систем и постоянный рост вычислительных воз-
можностей систем обработки данных – с одной стороны, и отсутствие эф-
фективных методов обработки информативных сигналов и методов их хра-
нения, учитывающих закономерности в контролируемых процессах.
Данная область исследований соответствует следующим пунктам паспор-
та специальности ВАК 05.11.13: п.4. «Разработка методического, техническо-
го, приборного и информационного обеспечения для локальных, региональ-
ных и глобальных систем экологического мониторинга природных и техно-
генных объектов» и п.6 «Разработка алгоритмического и программно-
технического обеспечения процессов обработки информативных сигналов и
представление результатов в приборах и средствах контроля, автоматизация
приборов контроля».
Для достижения поставленной цели в диссертационной работе были
сформулированы следующие задачи:
– провести анализ методов выявления и идентификации аномалий и иных
нарушений закономерностей в информативных сигналах систем монито-
ринга;
– осуществить модификацию существующих онлайновых методов обнару-
жения таких аномалий в сигналах системы мониторинга, как их перепады
и выбросы;
– для объектов контроля, характеризующихся наличием в них циклических
периодических процессов, усовершенствовать метод обнаружения такой
аномалии, как нарушение цикличности таких процессов и разработать ал-
горитмы восстановления потерянных и краткосрочного прогнозирования
наблюдаемых данных;
– разработать способы компактного хранения и передачи данных, получен-
ных в ходе мониторинга;
– осуществить апробацию разработанных методов и реализующего их алго-
ритмического и программно-технического обеспечения для решения
практических задач контроля в информационно-измерительных системах.
Основными методами решения поставленных задач являются методы
статистической обработки экспериментальных данных, методы вычисли-
тельной математики, методы цифровой обработки сигналов и методы теории
погрешностей.
Теоретической основой исследования служили труды учёных и специа-
листов, в числе которых J. Yang, R. Agrawal, S. Makridakis, F. Rasheed, G.
Welch, J. Contrera, J. W. Taylor, G. Anandalingam, K. Chitharanjan, C. Shahabi,
Z. Bakar , D. Janakiram, H. S. Hippert, B. Ryabko, J. C. Palomares-Salas, K. A.
Cullen, R. C. Tabony, T. Al-Hawari, W. Charytoniuk, E. Keogh, H. E. Solberg, P.
A. Hancock, C. J. Willmott, X. Song, M. G. Elfeky, B. Iglewicz, V. Barnett, Но-
виков М.М., Айвазян С.А., Дубров А.М., Елисеева И.И., Загоруйко Н.Г.,
Наследов А.Д., Попов В.Н, Пустыльник Е.И., Шпаков П.С., Юзбашев М.М.
и многие другие.
Научная новизна исследования заключается в совершенствовании ос-
нованного на применении статистического подхода алгоритмического и про-
граммного обеспечения, реализующего методы выявления нарушений зако-
номерностей в информативных сигналах контролируемых объектов и вклю-
чает следующие пункты:
1. Разработаны новые методы обнаружения выбросов и перепадов в контро-
лируемых системой мониторинга процессах на основе сравнения трендов
смежных интервалов наблюдения, а также предложена корректировка
значений пороговых уровней классических онлайновых методов обнару-
жения аномалий, что позволяет повысить точность обнаружения аномалий
в контролируемых системой мониторинга процессах.
2. Усовершенствован основанный на геометрических паттернах алгоритм
выявления нарушений цикличности в периодических сигналах, отличаю-
щийся от прототипа возможностью его применения в онлайновых режи-
мах измерений, учетом тренда на стадии формирования и применения
паттерна и повышенной достоверностью краткосрочного прогнозирования
и восстановления потерянных данных.
3. Разработаны основанные на разностных схемах модификации алгоритмов
компрессии данных как с потерями, так и без потерь, и организации их
хранения в целочисленном виде с учетом периода выборки, обеспечива-
ющие возможность хранения больших объемов информации для многока-
нальных систем мониторинга техногенных и природных объектов.
Обоснованность и достоверность научных положений, методов и реко-
мендаций обеспечивается за счет использования теоретически обоснованных
вычислительных методов, подтверждена результатами экспериментальной
проверки, наличием зарегистрированных в установленном порядке реализу-
ющих разработанные алгоритмы программных продуктов. Вычислительные
эксперименты выполнялись с помощью разработанных автором, в том числе
и зарегистрированных, прикладных программ.
Теоретическая ценность диссертации состоит в развитии статистиче-
ских методов идентификации аномалий в сигналах, основанных на учете
особенностей динамики изменения параметров контролируемых процессов в
системе мониторинга, а также в развитии методов онлайновой компактифи-
кации передаваемых и хранимых данных.
Практическая ценность диссертации заключается в том, что примене-
ние созданных в ходе проведения исследований алгоритмов обработки ин-
формативного сигнала и программно-технических решений для систем мони-
торинга техногенных и природных объектов позволяет:
– уменьшить вероятность появления ошибок первого и второго рода при
выявлении аномалий и иных нарушений присутствующих в сигнале зако-
номерностей;
– повысить быстродействие, а также сократить объем хранимых данных.
Это снижает требования, предъявляемые к используемым в приборах и мето-
дах контроля средствам вычислительной техники, положительно отражается
на эффективности работы системы оперативного контроля, расширяет ее
функциональность и спектр контролируемых параметров.
Реализация результатов работы.
Исследования по тематике диссертационной работы велись в рамках сле-
дующих госбюджетных НИР: «Моделирование динамических температур-
ных полей в системах экстраполирующего температурного мониторинга тех-
ногенных объектов» (2010-2012 гг.), государственного задания вузам на
2013-2015 гг. (тема «Развитие гибридных моделей и методов оценки и про-
гнозирования состояний техногенных, социально- экономических и природ-
ных объектов» (2013-2015 гг.).
Результаты работы внедрены и использовались при разработке системы
оперативного контроля потребления энергоресурсов университетского кам-
пуса АлтГТУ (г. Барнаул) и мониторинга метеоданных и в работах, выполня-
емых институтом водных и экологических проблем СО РАН.
Апробация работы. Результаты исследований апробированы на научно-
технических и научно-практических конференциях различного уровня: ВНК
“Инновационные процессы в гуманитарных, естественных и технических с и-
стемах” (Таганрог, 2012 г.), Международной НТК «Измерение, контроль, ин-
форматизация» (Барнаул, 2013, 2014, 2015, 2016 гг.), IV НПК “Информаци-
онно-измерительная техника и технологии” (Томск, 2013г.), II Всероссийской
с международным участием НПК по инновациям в неразрушающем контроле
SibTest (Томск, 2013 г), VI Международной научно-практической конферен-
ции «Многоядерные процессоры, параллельное программирование, ПЛИС,
системы обработки сигналов (МППОС– 2016)».
На защиту выносятся:
– модифицированные пороговые методы идентификации нарушений законо-
мерностей (перепады сигналов, выбросы, нарушения цикличности), наблю-
даемых в информативных сигналах контролируемых объектов, пригодные
для использования в режиме реального времени на устройствах с ограни-
ченными вычислительными ресурсами;
– метод формирования шаблона тренда по данным измерений с учетом тренда
детерминированной составляющей и применение шаблона для оценки
нарушения цикличности в информативных сигналах объектов, характери-
зующихся наличием в них периодических процессов, для восстановления
потерянных данных и для краткосрочного прогнозирования;
– модифицированные методы сжатия информативных сигналов в системах

Заказать новую

Лучшие эксперты сервиса ждут твоего задания

от 5 000 ₽

Не подошла эта работа?
Закажи новую работу, сделанную по твоим требованиям

    Нажимая на кнопку, я соглашаюсь на обработку персональных данных и с правилами пользования Платформой

    Помогаем с подготовкой сопроводительных документов

    Совместно разработаем индивидуальный план и выберем тему работы Подробнее
    Помощь в подготовке к кандидатскому экзамену и допуске к нему Подробнее
    Поможем в написании научных статей для публикации в журналах ВАК Подробнее
    Структурируем работу и напишем автореферат Подробнее

    Хочешь уникальную работу?

    Больше 3 000 экспертов уже готовы начать работу над твоим проектом!

    Дарья П. кандидат наук, доцент
    4.9 (20 отзывов)
    Профессиональный журналист, филолог со стажем более 10 лет. Имею профильную диссертацию по специализации "Радиовещание". Подробно и серьезно разрабатываю темы научных... Читать все
    Профессиональный журналист, филолог со стажем более 10 лет. Имею профильную диссертацию по специализации "Радиовещание". Подробно и серьезно разрабатываю темы научных исследований, связанных с журналистикой, филологией и литературой
    #Кандидатские #Магистерские
    33 Выполненных работы
    Мария М. УГНТУ 2017, ТФ, преподаватель
    5 (14 отзывов)
    Имею 3 высших образования в сфере Экологии и техносферной безопасности (бакалавриат, магистратура, аспирантура), работаю на кафедре экологии одного из опорных ВУЗов РФ... Читать все
    Имею 3 высших образования в сфере Экологии и техносферной безопасности (бакалавриат, магистратура, аспирантура), работаю на кафедре экологии одного из опорных ВУЗов РФ. Большой опыт в написании курсовых, дипломов, диссертаций.
    #Кандидатские #Магистерские
    27 Выполненных работ
    Анастасия Б.
    5 (145 отзывов)
    Опыт в написании студенческих работ (дипломные работы, магистерские диссертации, повышение уникальности текста, курсовые работы, научные статьи и т.д.) по экономическо... Читать все
    Опыт в написании студенческих работ (дипломные работы, магистерские диссертации, повышение уникальности текста, курсовые работы, научные статьи и т.д.) по экономическому и гуманитарному направлениях свыше 8 лет на различных площадках.
    #Кандидатские #Магистерские
    224 Выполненных работы
    AleksandrAvdiev Южный федеральный университет, 2010, преподаватель, канд...
    4.1 (20 отзывов)
    Пишу качественные выпускные квалификационные работы и магистерские диссертации. Опыт написания работ - более восьми лет. Всегда на связи.
    Пишу качественные выпускные квалификационные работы и магистерские диссертации. Опыт написания работ - более восьми лет. Всегда на связи.
    #Кандидатские #Магистерские
    28 Выполненных работ
    Дарья Б. МГУ 2017, Журналистики, выпускник
    4.9 (35 отзывов)
    Привет! Меня зовут Даша, я окончила журфак МГУ с красным дипломом, защитила магистерскую диссертацию на филфаке. Работала журналистом, PR-менеджером в международных ко... Читать все
    Привет! Меня зовут Даша, я окончила журфак МГУ с красным дипломом, защитила магистерскую диссертацию на филфаке. Работала журналистом, PR-менеджером в международных компаниях, сейчас работаю редактором. Готова помогать вам с учёбой!
    #Кандидатские #Магистерские
    50 Выполненных работ
    Татьяна П. МГУ им. Ломоносова 1930, выпускник
    5 (9 отзывов)
    Журналист. Младший научный сотрудник в институте РАН. Репетитор по английскому языку (стаж 6 лет). Также знаю французский. Сейчас занимаюсь написанием диссертации по и... Читать все
    Журналист. Младший научный сотрудник в институте РАН. Репетитор по английскому языку (стаж 6 лет). Также знаю французский. Сейчас занимаюсь написанием диссертации по истории. Увлекаюсь литературой и темой космоса.
    #Кандидатские #Магистерские
    11 Выполненных работ
    Екатерина П. студент
    5 (18 отзывов)
    Работы пишу исключительно сама на основании действующих нормативных правовых актов, монографий, канд. и докт. диссертаций, авторефератов, научных статей. Дополнительно... Читать все
    Работы пишу исключительно сама на основании действующих нормативных правовых актов, монографий, канд. и докт. диссертаций, авторефератов, научных статей. Дополнительно занимаюсь английским языком, уровень владения - Upper-Intermediate.
    #Кандидатские #Магистерские
    39 Выполненных работ
    Алёна В. ВГПУ 2013, исторический, преподаватель
    4.2 (5 отзывов)
    Пишу дипломы, курсовые, диссертации по праву, а также истории и педагогике. Закончила исторический факультет ВГПУ. Имею высшее историческое и дополнительное юридическо... Читать все
    Пишу дипломы, курсовые, диссертации по праву, а также истории и педагогике. Закончила исторический факультет ВГПУ. Имею высшее историческое и дополнительное юридическое образование. В данный момент работаю преподавателем.
    #Кандидатские #Магистерские
    25 Выполненных работ
    Сергей Е. МГУ 2012, физический, выпускник, кандидат наук
    4.9 (5 отзывов)
    Имеется большой опыт написания творческих работ на различных порталах от эссе до кандидатских диссертаций, решения задач и выполнения лабораторных работ по любым напра... Читать все
    Имеется большой опыт написания творческих работ на различных порталах от эссе до кандидатских диссертаций, решения задач и выполнения лабораторных работ по любым направлениям физики, математики, химии и других естественных наук.
    #Кандидатские #Магистерские
    5 Выполненных работ

    Последние выполненные заказы

    Другие учебные работы по предмету