Совершенствование алгоритмического и программного обеспечения процессов обработки информационных сигналов систем мониторинга природных и техногенных объектов на основе статистического подхода

Хуссейн Шиабат Аль Хамд Могахед Хуссейн
Бесплатно
В избранное
Работа доступна по лицензии Creative Commons:«Attribution» 4.0

ВВЕДЕНИЕ ………………………………………………………………………………… 4
1. Анализ методов обработки информации в системах мониторинга ….. 12
1.1. Общие принципы сбора, хранения и обработки информации в
системах мониторинга природных и техногенных объектов …………. 12
1.2. Алгоритмы для выявления аномалий в системах мониторинга
природных и техногенных объектов ………………………………………… 21
1.2.1. Типы идентифицируемых аномалий……………………………………. 21
1.2.2. Алгоритмы и методы идентификации аномалий ……………………. 23
1.3. Выбор и обоснование направлений исследований ………………………. 30
Выводы ……………………………………………………………………………………. 34
2. Разработка алгоритмического обеспечения для выделения
нарушений закономернос тей в поведении сигнала ……………………… 36
2.1. Разработка общей методики и модели для проведения
исследований………………………………………………………………………. 36
2.2. Разработка и модификация алгоритмов для обнаружения в
сигнале перепадов уровня ……………………………………………………… 40
2.2.1. Алгоритм на основе сравнения средних скоростей изменения ….. 41
2.2.2. Алгоритмы для обнаружения перепадов с применением средства
визуализации временных рядов candlestick………………………………… 46
2.3. Алгоритмы обнаружения в сигнале аномальных выбросов …………… 49
2.3.1. Метод на основе анализа отклонения тренда временного ряда ….. 50
2.3.2. Алгоритмы для обнаружения выбросов с применением средства
визуализации временных рядов boxplot…………………………………….. 52
2.3.3. Модифицированный алгоритм Z-score…………………………………. 53
2.3.4. Сравнение различных методов обнаружения выбросов …………… 54
2.4. Обнаружение нарушений цикличности в периодических
процессах с помощью модифицированного паттерна форм
(МПФ)……………………………………………………………………………….. 56
2.5. Применение МПФ для восстановления пропущенных данных и
для краткосрочного прогнозирования ………………………………………. 62
Выводы ……………………………………………………………………………………. 65
3. Совершенствование методов обработки и хранения данных
мониторинга ……………………………………………………………………….. 66
3.1. Общая постановка задачи ………………………………………………………. 66
3.2. Методы на основе выбора базисной системы отсчетов,
нормировки и структуризации данных ……………………………………… 69
3.3. Методы сжатия на основе разностных схем ………………………………. 74
3.3.1. Модификация разностных методов сжатия без потери данных …. 75
3.3.2. Модификация методов сжатия с частичной потерей данных ……. 80
3.4. Сравнительная оценка различных методов сжатия данных …………… 89
Выводы ……………………………………………………………………………………. 98
4. Практическая реализация результатов исследований в системах
мониторинга ……………………………………………………………………….. 99
4.1. Программно-техническое обеспечение комплексов для
проведения экспериментальных исследований …………………………… 99
4.1.1. Обобщенная структурная схема разработанных систем …………… 99
4.1.2. Программно-техническое обеспечение системы мониторинга … 105
4.2. Практическое применение разработанных систем мониторинга
для выделения аномалий ……………………………………………………… 112
4.2.1. Информационно-измерительная система АлтГТУ………………… 112
4.2.2. Выделение аномалий при метеонаблюдениях ……………………… 121
4.2.3. Выделение аномалий в системах контроля техногенных объектов 126
4.3. Перспективы применения разработанного программно-
технического обеспечения для решения задач климатического и
технического мониторинга природных и техногенных объектов ….. 132
Выводы ………………………………………………………………………………….. 137
Список литературы …………………………………………………………………… 138
Список использованных сокращений ……………………………………………. 154
Список использованных обозначений …………………………………………… 155
Приложение A. Копии документов о внедрении результатов
диссертационной работы ……………………………………………………… 157

Актуальность.
В последнее время методы непрерывного оперативного контроля получа-
ют все большую востребованность при решении задач технического и при-
родного мониторинга в связи с ужесточением регламента реализации техно-
логических процессов, участившимися случаями возникновения различных
экстремальных ситуаций, техногенных и экологических катастроф, развити-
ем фундаментальных исследований в области изучения свойств природной
среды и климатических явлений.
При этом, из-за масштабности современных производств и необходимо-
сти осуществления контроля и выявления нештатных ситуаций на больших
территориях возникает проблема необходимости эффективного сбора, обра-
ботки и хранения большого объема данных с огромного числа первичных
измерительных преобразователей.
Однако, существующие системы мониторинга используют для идентифи-
кации нарушений закономерностей в регистрируемых на объектах контроля
информативных сигналах преимущественно пороговые методы, в которых
величина порога должна устанавливаться при настройке системы и не зави-
сит от особенностей динамики информативных сигналов. Кроме того, с раз-
витием телекоммуникационной инфраструктуры и удешевлением устройств
первичного сбора данных резко возрос объем измерительной информации,
что привело к проблеме не только ее своевременной потоковой обработки, но
и передачи, хранения и обеспечения к ней оперативного доступа.
В этой связи становится актуальной разработка информационного обес-
печения, программно-технических средств и алгоритмических решений, спо-
собных эффективно выявлять аномалии и нарушения закономерностей в кон-
тролируемых процессах с учетом их особенностей, а также минимизировать
объем передаваемой и хранимой информации без потери ее прагматической
ценности.
Объектом исследования являются собираемые с первичных измеритель-
ных преобразователей данные оперативного контроля техногенных и при-
родных объектов, а также методы, необходимые для их непрерывной диагно-
стики и выявления нарушений их функционирования.
Предмет исследования – алгоритмы на основе статистических методов
сбора, хранения и обработки информативных сигналов, формируемых в си-
стемах непрерывного оперативного мониторинга природных и техногенных
объектов.
Таким образом, основной целью диссертационного исследования явля-
ется совершенствование алгоритмического и программного обеспечения си-
стем мониторинга техногенных и природных объектов путём модификации
статистических алгоритмов, используемых для выявления нарушений зако-
номерностей в информативных сигналах контролируемых техногенных и
природных объектов и обеспечение компактификации передачи и хранения
таких сигналов.
Выявленными противоречиями предмета исследования, которые опре-
деляют научную проблему и перечень научных задач, являются высокий
уровень развития программно-аппаратного обеспечения оперативного кон-
троля на основе SCADA – систем и постоянный рост вычислительных воз-
можностей систем обработки данных – с одной стороны, и отсутствие эф-
фективных методов обработки информативных сигналов и методов их хра-
нения, учитывающих закономерности в контролируемых процессах.
Данная область исследований соответствует следующим пунктам паспор-
та специальности ВАК 05.11.13: п.4. «Разработка методического, техническо-
го, приборного и информационного обеспечения для локальных, региональ-
ных и глобальных систем экологического мониторинга природных и техно-
генных объектов» и п.6 «Разработка алгоритмического и программно-
технического обеспечения процессов обработки информативных сигналов и
представление результатов в приборах и средствах контроля, автоматизация
приборов контроля».
Для достижения поставленной цели в диссертационной работе были
сформулированы следующие задачи:
– провести анализ методов выявления и идентификации аномалий и иных
нарушений закономерностей в информативных сигналах систем монито-
ринга;
– осуществить модификацию существующих онлайновых методов обнару-
жения таких аномалий в сигналах системы мониторинга, как их перепады
и выбросы;
– для объектов контроля, характеризующихся наличием в них циклических
периодических процессов, усовершенствовать метод обнаружения такой
аномалии, как нарушение цикличности таких процессов и разработать ал-
горитмы восстановления потерянных и краткосрочного прогнозирования
наблюдаемых данных;
– разработать способы компактного хранения и передачи данных, получен-
ных в ходе мониторинга;
– осуществить апробацию разработанных методов и реализующего их алго-
ритмического и программно-технического обеспечения для решения
практических задач контроля в информационно-измерительных системах.
Основными методами решения поставленных задач являются методы
статистической обработки экспериментальных данных, методы вычисли-
тельной математики, методы цифровой обработки сигналов и методы теории
погрешностей.
Теоретической основой исследования служили труды учёных и специа-
листов, в числе которых J. Yang, R. Agrawal, S. Makridakis, F. Rasheed, G.
Welch, J. Contrera, J. W. Taylor, G. Anandalingam, K. Chitharanjan, C. Shahabi,
Z. Bakar , D. Janakiram, H. S. Hippert, B. Ryabko, J. C. Palomares-Salas, K. A.
Cullen, R. C. Tabony, T. Al-Hawari, W. Charytoniuk, E. Keogh, H. E. Solberg, P.
A. Hancock, C. J. Willmott, X. Song, M. G. Elfeky, B. Iglewicz, V. Barnett, Но-
виков М.М., Айвазян С.А., Дубров А.М., Елисеева И.И., Загоруйко Н.Г.,
Наследов А.Д., Попов В.Н, Пустыльник Е.И., Шпаков П.С., Юзбашев М.М.
и многие другие.
Научная новизна исследования заключается в совершенствовании ос-
нованного на применении статистического подхода алгоритмического и про-
граммного обеспечения, реализующего методы выявления нарушений зако-
номерностей в информативных сигналах контролируемых объектов и вклю-
чает следующие пункты:
1. Разработаны новые методы обнаружения выбросов и перепадов в контро-
лируемых системой мониторинга процессах на основе сравнения трендов
смежных интервалов наблюдения, а также предложена корректировка
значений пороговых уровней классических онлайновых методов обнару-
жения аномалий, что позволяет повысить точность обнаружения аномалий
в контролируемых системой мониторинга процессах.
2. Усовершенствован основанный на геометрических паттернах алгоритм
выявления нарушений цикличности в периодических сигналах, отличаю-
щийся от прототипа возможностью его применения в онлайновых режи-
мах измерений, учетом тренда на стадии формирования и применения
паттерна и повышенной достоверностью краткосрочного прогнозирования
и восстановления потерянных данных.
3. Разработаны основанные на разностных схемах модификации алгоритмов
компрессии данных как с потерями, так и без потерь, и организации их
хранения в целочисленном виде с учетом периода выборки, обеспечива-
ющие возможность хранения больших объемов информации для многока-
нальных систем мониторинга техногенных и природных объектов.
Обоснованность и достоверность научных положений, методов и реко-
мендаций обеспечивается за счет использования теоретически обоснованных
вычислительных методов, подтверждена результатами экспериментальной
проверки, наличием зарегистрированных в установленном порядке реализу-
ющих разработанные алгоритмы программных продуктов. Вычислительные
эксперименты выполнялись с помощью разработанных автором, в том числе
и зарегистрированных, прикладных программ.
Теоретическая ценность диссертации состоит в развитии статистиче-
ских методов идентификации аномалий в сигналах, основанных на учете
особенностей динамики изменения параметров контролируемых процессов в
системе мониторинга, а также в развитии методов онлайновой компактифи-
кации передаваемых и хранимых данных.
Практическая ценность диссертации заключается в том, что примене-
ние созданных в ходе проведения исследований алгоритмов обработки ин-
формативного сигнала и программно-технических решений для систем мони-
торинга техногенных и природных объектов позволяет:
– уменьшить вероятность появления ошибок первого и второго рода при
выявлении аномалий и иных нарушений присутствующих в сигнале зако-
номерностей;
– повысить быстродействие, а также сократить объем хранимых данных.
Это снижает требования, предъявляемые к используемым в приборах и мето-
дах контроля средствам вычислительной техники, положительно отражается
на эффективности работы системы оперативного контроля, расширяет ее
функциональность и спектр контролируемых параметров.
Реализация результатов работы.
Исследования по тематике диссертационной работы велись в рамках сле-
дующих госбюджетных НИР: «Моделирование динамических температур-
ных полей в системах экстраполирующего температурного мониторинга тех-
ногенных объектов» (2010-2012 гг.), государственного задания вузам на
2013-2015 гг. (тема «Развитие гибридных моделей и методов оценки и про-
гнозирования состояний техногенных, социально- экономических и природ-
ных объектов» (2013-2015 гг.).
Результаты работы внедрены и использовались при разработке системы
оперативного контроля потребления энергоресурсов университетского кам-
пуса АлтГТУ (г. Барнаул) и мониторинга метеоданных и в работах, выполня-
емых институтом водных и экологических проблем СО РАН.
Апробация работы. Результаты исследований апробированы на научно-
технических и научно-практических конференциях различного уровня: ВНК
“Инновационные процессы в гуманитарных, естественных и технических с и-
стемах” (Таганрог, 2012 г.), Международной НТК «Измерение, контроль, ин-
форматизация» (Барнаул, 2013, 2014, 2015, 2016 гг.), IV НПК “Информаци-
онно-измерительная техника и технологии” (Томск, 2013г.), II Всероссийской
с международным участием НПК по инновациям в неразрушающем контроле
SibTest (Томск, 2013 г), VI Международной научно-практической конферен-
ции «Многоядерные процессоры, параллельное программирование, ПЛИС,
системы обработки сигналов (МППОС– 2016)».
На защиту выносятся:
– модифицированные пороговые методы идентификации нарушений законо-
мерностей (перепады сигналов, выбросы, нарушения цикличности), наблю-
даемых в информативных сигналах контролируемых объектов, пригодные
для использования в режиме реального времени на устройствах с ограни-
ченными вычислительными ресурсами;
– метод формирования шаблона тренда по данным измерений с учетом тренда
детерминированной составляющей и применение шаблона для оценки
нарушения цикличности в информативных сигналах объектов, характери-
зующихся наличием в них периодических процессов, для восстановления
потерянных данных и для краткосрочного прогнозирования;
– модифицированные методы сжатия информативных сигналов в системах

Заказать новую

Лучшие эксперты сервиса ждут твоего задания

от 5 000 ₽

Не подошла эта работа?
Закажи новую работу, сделанную по твоим требованиям

    Нажимая на кнопку, я соглашаюсь на обработку персональных данных и с правилами пользования Платформой

    Помогаем с подготовкой сопроводительных документов

    Совместно разработаем индивидуальный план и выберем тему работы Подробнее
    Помощь в подготовке к кандидатскому экзамену и допуске к нему Подробнее
    Поможем в написании научных статей для публикации в журналах ВАК Подробнее
    Структурируем работу и напишем автореферат Подробнее

    Хочешь уникальную работу?

    Больше 3 000 экспертов уже готовы начать работу над твоим проектом!

    Виктор В. Смоленская государственная медицинская академия 1997, Леч...
    4.7 (46 отзывов)
    Имеют опыт грамотного написания диссертационных работ по медицине, а также отдельных ее частей (литературный обзор, цели и задачи исследования, материалы и методы, выв... Читать все
    Имеют опыт грамотного написания диссертационных работ по медицине, а также отдельных ее частей (литературный обзор, цели и задачи исследования, материалы и методы, выводы).Пишу статьи в РИНЦ, ВАК.Оформление патентов от идеи до регистрации.
    #Кандидатские #Магистерские
    100 Выполненных работ
    Кирилл Ч. ИНЖЭКОН 2010, экономика и управление на предприятии транс...
    4.9 (343 отзыва)
    Работы пишу, начиная с 2000 года. Огромный опыт и знания в области экономики. Закончил школу с золотой медалью. Два высших образования (техническое и экономическое). С... Читать все
    Работы пишу, начиная с 2000 года. Огромный опыт и знания в области экономики. Закончил школу с золотой медалью. Два высших образования (техническое и экономическое). Сейчас пишу диссертацию на соискание степени кандидата экономических наук.
    #Кандидатские #Магистерские
    692 Выполненных работы
    Анастасия Л. аспирант
    5 (8 отзывов)
    Работаю в сфере метрологического обеспечения. Защищаю кандидатскую диссертацию. Основной профиль: Метрология, стандартизация и сертификация. Оптико-электронное прибост... Читать все
    Работаю в сфере метрологического обеспечения. Защищаю кандидатскую диссертацию. Основной профиль: Метрология, стандартизация и сертификация. Оптико-электронное прибостроение, управление качеством
    #Кандидатские #Магистерские
    10 Выполненных работ
    Дарья П. кандидат наук, доцент
    4.9 (20 отзывов)
    Профессиональный журналист, филолог со стажем более 10 лет. Имею профильную диссертацию по специализации "Радиовещание". Подробно и серьезно разрабатываю темы научных... Читать все
    Профессиональный журналист, филолог со стажем более 10 лет. Имею профильную диссертацию по специализации "Радиовещание". Подробно и серьезно разрабатываю темы научных исследований, связанных с журналистикой, филологией и литературой
    #Кандидатские #Магистерские
    33 Выполненных работы
    Дмитрий М. БГАТУ 2001, электрификации, выпускник
    4.8 (17 отзывов)
    Помогаю с выполнением курсовых проектов и контрольных работ по электроснабжению, электроосвещению, электрическим машинам, электротехнике. Занимался наукой, писал стать... Читать все
    Помогаю с выполнением курсовых проектов и контрольных работ по электроснабжению, электроосвещению, электрическим машинам, электротехнике. Занимался наукой, писал статьи, патенты, кандидатскую диссертацию, преподавал. Занимаюсь этим с 2003.
    #Кандидатские #Магистерские
    19 Выполненных работ
    Юлия К. ЮУрГУ (НИУ), г. Челябинск 2017, Институт естественных и т...
    5 (49 отзывов)
    Образование: ЮУрГУ (НИУ), Лингвистический центр, 2016 г. - диплом переводчика с английского языка (дополнительное образование); ЮУрГУ (НИУ), г. Челябинск, 2017 г. - ин... Читать все
    Образование: ЮУрГУ (НИУ), Лингвистический центр, 2016 г. - диплом переводчика с английского языка (дополнительное образование); ЮУрГУ (НИУ), г. Челябинск, 2017 г. - институт естественных и точных наук, защита диплома бакалавра по направлению элементоорганической химии; СПХФУ (СПХФА), 2020 г. - кафедра химической технологии, регулирование обращения лекарственных средств на фармацевтическом рынке, защита магистерской диссертации. При выполнении заказов на связи, отвечаю на все вопросы. Индивидуальный подход к каждому. Напишите - и мы договоримся!
    #Кандидатские #Магистерские
    55 Выполненных работ
    Ольга Б. кандидат наук, доцент
    4.8 (373 отзыва)
    Работаю на сайте четвертый год. Действующий преподаватель вуза. Основные направления: микробиология, биология и медицина. Написано несколько кандидатских, магистерских... Читать все
    Работаю на сайте четвертый год. Действующий преподаватель вуза. Основные направления: микробиология, биология и медицина. Написано несколько кандидатских, магистерских диссертаций, дипломных и курсовых работ. Слежу за новинками в медицине.
    #Кандидатские #Магистерские
    566 Выполненных работ
    Олег Н. Томский политехнический университет 2000, Инженерно-эконо...
    4.7 (96 отзывов)
    Здравствуйте! Опыт написания работ более 12 лет. За это время были успешно защищены более 2 500 написанных мною магистерских диссертаций, дипломов, курсовых работ. Явл... Читать все
    Здравствуйте! Опыт написания работ более 12 лет. За это время были успешно защищены более 2 500 написанных мною магистерских диссертаций, дипломов, курсовых работ. Являюсь действующим преподавателем одного из ВУЗов.
    #Кандидатские #Магистерские
    177 Выполненных работ
    Андрей С. Тверской государственный университет 2011, математический...
    4.7 (82 отзыва)
    Учился на мат.факе ТвГУ. Любовь к математике там привили на столько, что я, похоже, никогда не перестану этим заниматься! Сейчас работаю в IT и пытаюсь найти время на... Читать все
    Учился на мат.факе ТвГУ. Любовь к математике там привили на столько, что я, похоже, никогда не перестану этим заниматься! Сейчас работаю в IT и пытаюсь найти время на продолжение диссертационной работы... Всегда готов помочь! ;)
    #Кандидатские #Магистерские
    164 Выполненных работы

    Последние выполненные заказы

    Другие учебные работы по предмету