Коллективный самонастраивающийся метод оптимизации на основе бионических алгоритмов

Ахмедова Шахназ Агасувар кызы

ВВЕДЕНИЕ……………………………………………………………………………..4
1 Алгоритмы стайного типа: реализация и исследование эффективности…………………………………………………………………………11
1.1. Метод роя частиц (Particle Swarm Optimization, PSO)……………………12
1.2. Алгоритм поиска стаей волков (Wolf Pack Search, WPS)…………………15
1.3. Алгоритм светлячков (Firefly Algorithm, FFA)……………………………18
1.4. Алгоритм поиска кукушек (Cuckoo Search Algorithm, CSA)……………..20
1.5. Алгоритм летучих мышей (Bat Algorithm, BA)……………………………23
1.6. Исследование эффективности алгоритмов стайного типа……………….26
Выводы………………………………………………………………………40
2 Коллективный метод оптимизации на основе бионических алгоритмов……….41
2.1. Коллективный метод оптимизации с вещественными переменными……………………………………………………………………..41
2.2. Коллективный метод условной оптимизации……………………………..50 2.3. Коллективный метод оптимизации с бинарными
переменными……………………………………………………………………..60 2.4. Решение практических задач коллективными методами
оптимизации………………………………………………………………………67 Выводы……………………………………………………………………….72
Алгоритмическое обеспечение автоматизации проектирования 3.1. Нейросетевые классификаторы, генерируемые коллективными
3
информационных технологий интеллектуального анализа данных………………74
алгоритмами……………………………………………………………………………………………..77
3.2. Генерирование машин опорных векторов бионическими алгоритмами………………………………………………………………………82
3
3.3. Коллективы машин опорных векторов, сгенерированные бионическими алгоритмами………………………………………………………………………87
Выводы………………………………………………………………………..92
4 Практическое применение информационных технологий интеллектуального анализа данных, автоматически генерируемых коллективными алгоритмами оптимизации……………………………………………………………………………93
4.1. Решение задач распознавания машинами опорных векторов……………93
4.2. Решение задач банковского скоринга и медицинской диагностики…….97
4.3. Решение задач категоризации текста……………………………………..104
4.4. Прогнозирование процесса деградации солнечных батарей космического аппарата (БС КА)……………………………………………………………….115
4.5. Прогнозирование успешности учебной деятельности студентов………118 Выводы………………………………………………………………………122 ЗАКЛЮЧЕНИЕ………………………………………………………………………124
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ…………………………………..125 ПУБЛИКАЦИИ ПО ТЕМЕ РАБОТЫ………………………………………………141
ПРИЛОЖЕНИЕ 1. ИСХОДНЫЕ ДАННЫЕ ДЛЯ ЗАДАЧИ ФОРМИРОВАНИЯ ОПТИМАЛЬНОГО ИНВЕСТИЦИОННОГО ПОРТФЕЛЯ ПРЕДПРИЯТИЯ……………………………………………………………………..148
ПРИЛОЖЕНИЕ 2. ИСХОДНЫЕ ДАННЫЕ ДЛЯ ЗАДАЧИ ФОРМИРОВАНИЯ ОПТИМАЛЬНОГО КРЕДИТНОГО ПОРТФЕЛЯ БАНКА……………………….150

Актуальность темы исследования. При решении многих практических задач часто возникает необходимость выбора наилучшего решения по некоторому критерию из множества возможных. Математически такой выбор формализуется в виде задачи оптимизации.
Широко известные методы математического программирования для решения задач оптимизации представляют собой детерминированную итерационную процедуру пошагового улучшения одного текущего решения. Эффективность таких алгоритмов основывается на полном использовании удобных с точки зрения оптимизации свойств (выпуклость, гладкость, и т.п.) целевой функции, которые, к тому же, полагаются известными заранее. Для многих практических задач такие свойства либо не выполняются, либо неизвестны заранее, поэтому применение данных методов нецелесообразно. Для решения таких задач в настоящее время используются недетерминированные (стохастические), работающие одновременно с большим количеством текущих решений (многоагентные) алгоритмы, являющиеся более эффективными и универсальными. Например, генетический алгоритм [46], метод роя частиц [101], муравьиный алгоритм [79] и т.д.
Многоагентные алгоритмы, основанные на использовании популяции, работают с набором потенциальных решений. Каждое решение постепенно улучшается и оценивается, таким образом, каждое потенциальное решение влияет на то, как будут улучшены другие решения. Большинство популяционных методов заимствовало эту концепцию из биологии: процесс поиска наилучшего решения «копирует» некоторый природный процесс либо поведение определенных видов животных, причем учитываются их видовые особенности. Класс сложных систем, именуемых как алгоритмы стайного типа, также часто употребляется термин «бионические алгоритмы», – богатый источник нестандартных численных методов, с помощью которых можно решать сложные задачи, когда известно недостаточно информации об оптимизируемой функции.
5
Один из особенно популярных и часто используемых бионических методов известен как стайный алгоритм оптимизации (Particle Swarm Optimization, PSO), также называемый методом роя частиц (МРЧ). Данный метод был предложен для решения задач безусловной оптимизации с вещественными переменными Кеннеди и Эберхартом в 1995 году [101]. Идея стайного алгоритма была почерпнута из социального поведения стада копытных, стаи птиц, косяка рыб и т.д., то есть процесс поиска оптимального решения данным методом имитирует поиск пищи группой животных, насекомых или птиц одного вида без уточнения самого вида.
Помимо метода роя частиц есть множество других алгоритмов, аналогичных ему, но имитирующих некоторые свойства или поведение уже конкретных видов животных. Например, алгоритм поиска кукушек (Cuckoo Search Algorithm, CSA), разработанный Янгом и Дэбом в 2009 году [4], имитирующий гнездовой паразитизм некоторых видов кукушек, подкладывающих свои яйца в гнезда других птиц. Тем же Янгом были разработаны и другие алгоритмы стайного типа: в 2009 году алгоритм светлячков (Firefly Algorithm, FFA) [140], использующий свойство свечения этих насекомых, в 2010 году алгоритм летучих мышей (Bat Algorithm, BA) [139], имитирующий процесс поиска пищи летучими мышами, учитывая их способность к эхолокации. Также как пример можно привести еще один бионический метод, но разработанный уже Карабогом в 2005 году [99] – искусственный алгоритм пчелиной семьи (ABC), который тоже часто используется для решения оптимизационных задач и имитирует поведение кормовых медоносных пчел. Кроме того, следует упомянуть алгоритм поиска стаей волков (Wolf Pack Search, WPS) [75], речь о котором пойдет далее. Примеров бионических методов можно приводить множество, ведь с каждым годом их разрабатывается все больше.
Следует также отметить, что большинство алгоритмов стайного типа изначально разработано для решения задач безусловной оптимизации с вещественными переменными, и все они имеют некоторые параметры, которые необходимо подбирать при решении той или иной задач (наиболее значимый в

6
этом понимании «параметр» – размер популяции потенциальных решений). Однако год за годом предлагаются различные модификации этих методов:
1. Модификации, связанные с гибридизацией алгоритмов (например, гибридный алгоритм на базе метода роя частиц и алгоритма поиска кукушек, представленный в статье [135]; или гибридный метод на базе алгоритма светлячков и муравьиного алгоритма [91]);
2. Модификации для расширения круга решаемых задач (например, решение оптимизационных задач с бинарными переменными алгоритмом летучих мышей [115] или решение задач многокритериальной оптимизации алгоритмом светлячков [68]);
3. Модификации для настройки параметров алгоритмов (например, уже в 1998 году Ши и Эберхарт опубликовали работу [127], а в 2000 году они же ввели еще один параметр для алгоритма PSO [81]).
Однако исследования показали, что невозможно заранее определить, какой именно из этих алгоритмов следует применить для решения той или иной оптимизационной задачи, кроме того, как уже было упомянуто, для каждого алгоритма нужно выбирать заранее размер популяции потенциальных решений, что в свою очередь также является сложной задачей.
Таким образом, цель диссертационной работы состоит в повышении эффективности решения задач оптимизации бионическими алгоритмами за счет автоматизации их выбора и настройки параметров.
Поставленная цель предопределила необходимость решения следующего комплекса взаимосвязанных задач:
1. Исследовать эффективность различных бионических методов для решения задач условной и безусловной оптимизации с вещественными и бинарными переменными, определить наиболее успешный из них;
2. Разработать коллективный самонастраивающийся бионический алгоритм для решения задач условной и безусловной оптимизации с вещественными переменными;

7
3. Разработать модификации нового алгоритма для решения задач условной и безусловной оптимизации с бинарными переменными;
4. Реализовать разработанные алгоритмы в виде программных систем и оценить их эффективность на репрезентативном множестве тестовых задач;
5. Провести апробацию разработанных алгоритмов при решении реальных практических задач.
Научная новизна диссертационной работы состоит в следующем:
1. На основе пяти известных бионических алгоритмов разработан, реализован и исследован новый коллективный метод решения задач безусловной оптимизации с вещественными переменными, отличающийся от известных способом организации взаимодействия популяций и настройки параметров;
2. Разработана, реализована и исследована модификация нового метода для решения задач безусловной оптимизации с бинарными переменными;
3. Разработана, реализована и исследована модификация нового метода для решения задач условной оптимизации с вещественными и бинарными переменными;
4. На основе разработанного метода оптимизации предложены новые алгоритмы автоматического проектирования нейронных сетей и машин опорных векторов.
Апробация работы. Процесс разработки алгоритмов и результаты проведенных исследований докладывались в период 2010-2015 гг. на 35 конференциях различного уровня, среди которых 11 зарубежных, 8 Международных, 1 Всероссийская с международным участием и 15 молодежных научных конференций, в том числе: International Conference on Swarm Intelligence (ICSI, Hefei, China, 2014; Beijing, China, 2015), Informatics in Control, Automation and Robotics (ICINCO, Vienna, Austria, 2014; Colmar, France, 2015), International Congress on Advanced Applied Informatics (AAI, Okayama, Japan, 2015), Congress on

8
Evolutionary Computations of the IEEE World Congress on Computational Intelligence (CEC WCCI, Beijing, China, 2014), International Conference on Computer Science and Artificial Intelligence (ICCSAI, Wuhan, China, 2014), Conference on Engineering and Applied Sciences Optimization (OPT-I, Kos Island, Greece, 2014), Workshop on Computational Approaches to Subjectivity, Sentiment and Social Media Analysis, (Baltimore, USA, 2014), Congress on Evolutionary Computations (CEC, Cancun, Mexico, 2013), Genetic and Evolutionary Computation Conference (GECCO, Amsterdam, Holland, 2013), International Workshop on Mathematical Models and its Applications (IWMMA, Baykal, Russia, 2012; Krasnoyarsk, Russia, 2013, 2014, 2015), XIV Национальная конференция по искусственному интеллекту с международным участием (КИИ, г.Казань, 2014), V Международная конференция «Системный анализ и информационные технологии» (САИТ, Красноярск, 2013), XVI, XVIII и XIX Международные научные конференции «Решетневские чтения» (г. Красноярск, 2012, 2014, 2015 гг.), и др. Отдельные результаты работы обсуждались на научном семинаре института информационных технологий университета г. Ульм (Германия, 2014). Диссертация в целом обсуждалась на научно-технических семинарах кафедры системного анализа и исследования операций СибГАУ и кафедры систем автоматизированного проектирования (РК6) НИУ МГТУ им. Н.Э.Баумана.
Разработанные алгоритмы использованы при выполнении исследований в рамках российско-германских проектов (совместно с университетом г. Ульм) «Распределенные интеллектуальные информационные системы обработки и анализа мультилингвистической информации в диалоговых информационно- коммуникационных системах» (ФЦП ИР, ГК No11.519.11.4002) и «Математическое и алгоритмическое обеспечение автоматизированного проектирования аппаратно-программных комплексов интеллектуальной обработки мультилингвистической информации в распределенных высокопроизводительных системах космического назначения» (ФЦП НПК, ГК No 16.740.11.0742), российско-словенского проекта (совместно с университетом г. Марибор) «Manpower control strategy determination with self-adapted evolutionary

9
and biologically inspired algorithms» (ARRS Project BI-RU/14-15-047), а также в рамках проекта No8.5541.2011 «Развитие теоретических основ автоматизации математического моделирования физических систем на основе экспериментальных данных» и проекта No 140/14 «Разработка теоретических основ эволюционного проектирования интеллектуальных информационных технологий анализа данных» тематического плана ЕЗН СибГАУ. Данная работа поддержана грантом Фонда содействия развитию малых форм предприятий в научно-технической сфере в рамках программы У.М.Н.И.К., стипендией имени Аниты Борг от компании Google (Google Anita Borg Scholarship) и стипендией Президента РФ молодым ученым и аспирантам, осуществляющим перспективные научные исследования и разработки по приоритетным направлениям модернизации российской экономики.
Зарегистрированы следующие программные системы: «Коллективный метод безусловной оптимизации на основе стайных бионических алгоритмов» (Свидетельство о государственной регистрации программ для ЭВМ No2014610132), «Коллективный метод условной оптимизации на основе стайных бионических алгоритмов» (Свидетельство о государственной регистрации программ для ЭВМ No2013661150), «Коллективный метод безусловной оптимизации на основе стайных бионических алгоритмов для решения задач с бинарными переменными» (Свидетельство о государственной регистрации программ для ЭВМ No2014611007), «Машины опорных векторов, автоматически сгенерированные коллективными методами условной и безусловной оптимизации на основе стайных бионических алгоритмов» (Свидетельство о государственной регистрации программ для ЭВМ No2014610968), «Автоматическое генерирование нейронных сетей алгоритмами стайного типа» (Свидетельство о государственной регистрации программ для ЭВМ No2014616237), «Проектирование SVM- классификаторов коллективными бионическими алгоритмами с выбором информативных входов» (Свидетельство о государственной регистрации программ для ЭВМ No2015611847).

10
Публикации. По материалам данной работы опубликовано 22 печатные работы, в том числе 6 статей в научных изданиях Перечня ВАК, 10 в изданиях, индексируемых в международной базе Scopus, из них 4 индексированы также в Web of Science (публикации в сборниках ведущих международных конференций, а также публикации в сборниках различных всероссийских, региональных конференций).

Заказать новую

Лучшие эксперты сервиса ждут твоего задания

от 5 000 ₽

Не подошла эта работа?
Закажи новую работу, сделанную по твоим требованиям

    Нажимая на кнопку, я соглашаюсь на обработку персональных данных и с правилами пользования Платформой

    Помогаем с подготовкой сопроводительных документов

    Совместно разработаем индивидуальный план и выберем тему работы Подробнее
    Помощь в подготовке к кандидатскому экзамену и допуске к нему Подробнее
    Поможем в написании научных статей для публикации в журналах ВАК Подробнее
    Структурируем работу и напишем автореферат Подробнее

    Хочешь уникальную работу?

    Больше 3 000 экспертов уже готовы начать работу над твоим проектом!

    Ольга Р. доктор, профессор
    4.2 (13 отзывов)
    Преподаватель ВУЗа, опыт выполнения студенческих работ на заказ (от рефератов до диссертаций): 20 лет. Образование высшее . Все заказы выполняются в заранее согласован... Читать все
    Преподаватель ВУЗа, опыт выполнения студенческих работ на заказ (от рефератов до диссертаций): 20 лет. Образование высшее . Все заказы выполняются в заранее согласованные сроки и при необходимости дорабатываются по рекомендациям научного руководителя (преподавателя). Буду рада плодотворному и взаимовыгодному сотрудничеству!!! К каждой работе подхожу индивидуально! Всегда готова по любому вопросу договориться с заказчиком! Все работы проверяю на антиплагиат.ру по умолчанию, если в заказе не стоит иное и если это заранее не обговорено!!!
    #Кандидатские #Магистерские
    21 Выполненная работа
    Анна С. СФ ПГУ им. М.В. Ломоносова 2004, филологический, преподав...
    4.8 (9 отзывов)
    Преподаю англ язык более 10 лет, есть опыт работы в университете, школе и студии англ языка. Защитила кандидатскую диссертацию в 2009 году. Имею большой опыт написания... Читать все
    Преподаю англ язык более 10 лет, есть опыт работы в университете, школе и студии англ языка. Защитила кандидатскую диссертацию в 2009 году. Имею большой опыт написания и проверки (в качестве преподавателя) контрольных и курсовых работ.
    #Кандидатские #Магистерские
    16 Выполненных работ
    Евгения Р.
    5 (188 отзывов)
    Мой опыт в написании работ - 9 лет. Я специализируюсь на написании курсовых работ, ВКР и магистерских диссертаций, также пишу научные статьи, провожу исследования и со... Читать все
    Мой опыт в написании работ - 9 лет. Я специализируюсь на написании курсовых работ, ВКР и магистерских диссертаций, также пишу научные статьи, провожу исследования и создаю красивые презентации. Сопровождаю работы до сдачи, на связи 24/7 ?
    #Кандидатские #Магистерские
    359 Выполненных работ
    Виктор В. Смоленская государственная медицинская академия 1997, Леч...
    4.7 (46 отзывов)
    Имеют опыт грамотного написания диссертационных работ по медицине, а также отдельных ее частей (литературный обзор, цели и задачи исследования, материалы и методы, выв... Читать все
    Имеют опыт грамотного написания диссертационных работ по медицине, а также отдельных ее частей (литературный обзор, цели и задачи исследования, материалы и методы, выводы).Пишу статьи в РИНЦ, ВАК.Оформление патентов от идеи до регистрации.
    #Кандидатские #Магистерские
    100 Выполненных работ
    Юлия К. ЮУрГУ (НИУ), г. Челябинск 2017, Институт естественных и т...
    5 (49 отзывов)
    Образование: ЮУрГУ (НИУ), Лингвистический центр, 2016 г. - диплом переводчика с английского языка (дополнительное образование); ЮУрГУ (НИУ), г. Челябинск, 2017 г. - ин... Читать все
    Образование: ЮУрГУ (НИУ), Лингвистический центр, 2016 г. - диплом переводчика с английского языка (дополнительное образование); ЮУрГУ (НИУ), г. Челябинск, 2017 г. - институт естественных и точных наук, защита диплома бакалавра по направлению элементоорганической химии; СПХФУ (СПХФА), 2020 г. - кафедра химической технологии, регулирование обращения лекарственных средств на фармацевтическом рынке, защита магистерской диссертации. При выполнении заказов на связи, отвечаю на все вопросы. Индивидуальный подход к каждому. Напишите - и мы договоримся!
    #Кандидатские #Магистерские
    55 Выполненных работ
    Кирилл Ч. ИНЖЭКОН 2010, экономика и управление на предприятии транс...
    4.9 (343 отзыва)
    Работы пишу, начиная с 2000 года. Огромный опыт и знания в области экономики. Закончил школу с золотой медалью. Два высших образования (техническое и экономическое). С... Читать все
    Работы пишу, начиная с 2000 года. Огромный опыт и знания в области экономики. Закончил школу с золотой медалью. Два высших образования (техническое и экономическое). Сейчас пишу диссертацию на соискание степени кандидата экономических наук.
    #Кандидатские #Магистерские
    692 Выполненных работы
    Екатерина Б. кандидат наук, доцент
    5 (174 отзыва)
    После окончания института работала экономистом в системе государственных финансов. С 1988 года на преподавательской работе. Защитила кандидатскую диссертацию. Преподав... Читать все
    После окончания института работала экономистом в системе государственных финансов. С 1988 года на преподавательской работе. Защитила кандидатскую диссертацию. Преподавала учебные дисциплины: Бюджетная система Украины, Статистика.
    #Кандидатские #Магистерские
    300 Выполненных работ
    Дмитрий М. БГАТУ 2001, электрификации, выпускник
    4.8 (17 отзывов)
    Помогаю с выполнением курсовых проектов и контрольных работ по электроснабжению, электроосвещению, электрическим машинам, электротехнике. Занимался наукой, писал стать... Читать все
    Помогаю с выполнением курсовых проектов и контрольных работ по электроснабжению, электроосвещению, электрическим машинам, электротехнике. Занимался наукой, писал статьи, патенты, кандидатскую диссертацию, преподавал. Занимаюсь этим с 2003.
    #Кандидатские #Магистерские
    19 Выполненных работ
    Екатерина П. студент
    5 (18 отзывов)
    Работы пишу исключительно сама на основании действующих нормативных правовых актов, монографий, канд. и докт. диссертаций, авторефератов, научных статей. Дополнительно... Читать все
    Работы пишу исключительно сама на основании действующих нормативных правовых актов, монографий, канд. и докт. диссертаций, авторефератов, научных статей. Дополнительно занимаюсь английским языком, уровень владения - Upper-Intermediate.
    #Кандидатские #Магистерские
    39 Выполненных работ

    Последние выполненные заказы

    Другие учебные работы по предмету