Методы и алгоритмы сегментации медицинских изображений на основе машинного обучения
ВВЕДЕНИЕ ……………………………………………………………………………………………….. 4
1 Обзор существующих средств обработки медицинских данных ………… 14
1.1 Представление изображений в медицине ……………………………………….. 14
1.2 Сегментация и локализация медицинского инструмента ………………… 17
1.3 Сегментация и локализация анатомических структур …………………….. 31
1.4 Программные продукты для обработки медицинских данных………… 46
1.5 Математическая формулировка задачи ………………………………………….. 50
1.6 Выводы по первой главе………………………………………………………………… 50
2 Методы и алгоритмы сегментации области интереса …………………………. 53
2.1 Исходные данные и оборудование …………………………………………………. 53
2.2 Алгоритм синтеза данных ……………………………………………………………… 58
2.3 Алгоритм аугментации данных ……………………………………………………… 64
2.4 Архитектура нейронной сети…………………………………………………………. 66
2.4.1 Стандартная U-net архитектура ………………………………………………. 67
2.4.2 Разреженная U-net архитектура………………………………………………. 68
2.4.3 Слой разреженной св ртки …………………………………………………….. 70
2.4.4 Слой активации ……………………………………………………………………… 72
2.4.5 Слой нормализации ……………………………………………………………….. 73
2.4.6 Dropout слои и регуляризация ………………………………………………… 74
2.4.7 Пробросы признаков………………………………………………………………. 76
2.4.8 V-net архитектура c пробросами признаков…………………………….. 79
2.5 Метод обучения модели ………………………………………………………………… 82
2.5.1 Функция потерь ……………………………………………………………………… 82
2.5.2 Алгоритм изменения скорости обучения ………………………………… 84
2.5.3 Алгоритм изменения размера батча………………………………………… 89
2.6 Алгоритм выбора оптимальных гиперпараметров ………………………….. 90
2.7 Выводы по второй главе ………………………………………………………………… 99
3 Оценка полученных результатов ……………………………………………………… 102
3.1 Синтез медицинского инструмента ……………………………………………… 102
3.1.1 Результаты сегментации синтезированных данных……………….. 102
3.1.2 Оценка результатов сегментации стандартной U-net модели …. 106
3.1.3 Оценка результатов сегментации разреженной U-net модели … 112
3.2 Выбор оптимальных гиперпараметров …………………………………………. 118
3.3 Сегментация медицинского инструмента …………………………………….. 132
3.3.1 Результаты сегментации медицинского инструмента ……………. 132
3.3.2 Оценка результатов сегментации V-net модели …………………….. 138
3.4 Сегментация анатомических структур …………………………………………. 144
3.4.1 Сегментация левого предсердия …………………………………………… 144
3.4.2 Сегментация поджелудочной железы……………………………………. 146
3.4.3 Сегментация селез нки ………………………………………………………… 147
3.4.4 Сегментация гиппокампа ……………………………………………………… 149
3.4.5 Сегментация печени …………………………………………………………….. 150
3.5 Сравнительный анализ ………………………………………………………………… 152
3.6 Выводы по третьей главе …………………………………………………………….. 156
ЗАКЛЮЧЕНИЕ ……………………………………………………………………………………… 159
СПИСОК СОКРАЩЕНИЙ И ОПРЕДЕЛЕНИЙ ………………………………………. 162
СПИСОК ЛИТЕРАТУРЫ……………………………………………………………………….. 164
ПРИЛОЖЕНИЕ А ………………………………………………………………………………….. 182
ПРИЛОЖЕНИЕ Б …………………………………………………………………………………… 185
Актуальность работы. На сегодняшний день существует множество работ,
посвящ нных сегментации изображений в различных сферах деятельности
человека [1–6]. В свою очередь, работы, направленные на сегментацию
медицинских инструментов или анатомических структур, представлены
значительно меньшим числом, что объясняется низким качеством выходных
данных, большой вариабельностью признаков, малым объ мом выборок, высокой
зашумл нностью и т.д. Существующие в настоящее время классические подходы
для выполнения сегментации медицинских изображений имеют множество
ограничений, одним из которых является каскадность [7–10]. Алгоритмы на основе
каскадности имеют блочную последовательную структуру и в большинстве
случаев обладают низкой обобщающей способностью. Способность модели к
обобщению заключается в распространении обнаруженных на обучающем
множестве зависимостей и закономерностей на новые данные. В дополнении стоит
отметить, что каскадные алгоритмы обладают негативным эффектом накопления
ошибки.
В ряде исследований алгоритмы сегментации используют предварительно
обработанные данные. Подобная реализация хоть и показывает в ряде случаев свою
эффективность, тем не менее обладает множеством недостатков, а именно:
высоким временем выполнения, низкой вариативностью параметров настройки и
слабой адаптацией к предсказанию новых данных.
Другим недостатком классических алгоритмов сегментации, в том числе
использующих подход машинного обучения, является использование признаков,
синтезированных вручную. Несмотря на то, что существуют эффективные методы
по выбору релевантных признаков, сам процесс их создания не всегда является
приемлемым для решения медицинских задач. Важным будет отметить, что
тр хмерные статические и тр хмерные динамические алгоритмы сегментации
представлены небольшим числом исследований. Из-за высокой сложности методов
сегментации тр хмерных объектов требуются большие временные затраты, что не
позволяет внедрять подобные методы для выполнения обработки данных в
реальном масштабе времени.
Большинство современных медицинских модальностей, выполняющих
сбор и визуализацию данных в режиме реального времени, не позволяют
эффективно распознавать и анализировать сложные динамические структуры. В
свою очередь, недостатки программно-аппаратной составляющей минимально
инвазивной технологии значительно сокращают спектр возможных операций на
сердце. В случае выполнения катетерных операций, актуальность выполнения
сегментации обусловлена необходимостью локализации хирургического
инструмента относительно оперируемой области. Поскольку направление работы
связано с проведением исследований на работающем сердце, существует
необходимость в технологии извлечения структурированной информации об
объекте интереса из последовательности изображений.
Говоря о сфере разработки классических алгоритмов сегментации,
значительный вклад в эту область внесли следующие уч ные и исследователи:
S. Horowitz и T. Pavlidis (Split-and-Merge) [11], R. M. Haralick и L.G. Shapiro (Region
Growing) [12], S. Lloyd (K-means) [13], A. P. Dempster (Expectation-Maximization
Clustering) [14], D. Comaniciu и P. Meer (Mean shift clustering) [15,16], F. Meyer
(Watershed) [17] и другие. На развитие области разработки алгоритмов машинного,
а также методов сегментации и локализации на основании глубокого обучения
оказали большое влияние такие исследователи, как Y. LeCun (LeNet), D.E.
Rumelhart, G.E. Hinton, A. Krizhevsky (AlexNet) [18], I.J. Goodfellow, A. Ng, J. Long
(Fully Convolutional Network) [19], W. Liu (ParseNet) [20], H. Noh [21], O.
Ronneberger (U-net) [22], T.-Y. Lin (Feature Pyramid Network) [23], R. Girshick (R-
CNN, Fast R-CNN и Faster R-CNN) [24–26], H. Zhao (Pyramid Scene Parsing Network)
[27], K. He (Mask R-CNN) [28], L.-C. Chen (DeepLab) [29, 30], S. Liu (Path
Aggregation Network) [31], H. Zhang (Context Encoding Network) [32]. Отдельно
стоит отметить деятельность отечественных уч ных, таких как В.Н. Вапник, В.А.
Князь, В.Н. Колмогоров (GrabCut) [33], Ю.И. Журавл в, В.Г. Спицын, А.С.
Конушин и другие, вн сших свой вклад в исследования по обработке изображений.
Несмотря на наличие разработанных методов и программных средств,
задача сегментации малых объектов, размер которых не превышает 1% от объ ма
изображения, на зашумл нных тр хмерных данных оста тся не реш нной. В связи
с этим становится актуальной разработка методов сегментации изображений и
визуализации объектов на тр хмерной сцене, в том числе хирургического
инструмента и анатомических структур на входных данных низкого качества.
Целью данной работы является создание методов и алгоритмов
сегментации на основе машинного обучения, позволяющих повысить точность
распознавания и визуализации медицинского инструмента и анатомических
структур.
Для достижения поставленной цели в диссертации необходимо решить
следующие исследовательские задачи:
– Провести анализ существующих методов и алгоритмов локализации и
сегментации медицинских инструментов и анатомических структур.
– Разработать алгоритм синтеза тр хмерных эхокардиографических
изображений с медицинским инструментом для случаев малого объ ма данных,
гомогенности и слабой репрезентативности выборки.
– Разработать архитектуру нейронной сети, которая сохраняет градиенты
и решает проблему чрезмерной подгонки параметров к зависимостям,
содержащимся в обучающем множестве данных.
– Реализовать алгоритм выбора оптимальных гиперпараметров для
глубоких нейронных сетей.
– Реализовать метод обучения нейронной сети с использованием
циклической скорости обучения и динамического изменения размера батча,
позволяющего ускорить сходимость процесса обучения.
– Разработать программное обеспечение и провести вычислительный
эксперимент с целью оценки результатов сегментации, полученных на основе
предлагаемых методов и алгоритмов.
Объектом исследования является процесс сегментации медицинских
изображений.
Предметом исследования являются методы машинного обучения, с
помощью которых осуществляется локализация и сегментация изображений,
содержащих медицинский инструмент и анатомические структуры.
Методы исследования. Выполненные в диссертационной работе
исследования основаны на использовании методов цифровой обработки
изображений, математического анализа и моделирования, алгоритмов
компьютерного зрения, математической статистики, методов преобразования и
анализа изображений, машинного обучения, распознавания образов и прикладного
программирования.
Научная новизна диссертационной работы представлена следующими
составляющими:
– Предложена модификация U-net архитектуры в виде V-net архитектуры
св рточной нейронной сети с дополнительными пробросами признаков, наличие
которых позволяет решить проблему затухающих градиентов глубоких нейронных
сетей. V-net архитектура в среднем на 10% превосходит стандартную U-net
архитектуру по точности.
– Разработан алгоритм синтеза медицинского инструмента на
тр хмерных ультразвуковых изображениях, который позволяет увеличить
гетерогенность используемых данных и автоматизировать процесс разметки. Для
точной реконструкции данный алгоритм использует кинематику гибких роботов
при совмещении изображений анатомических структур и медицинского
инструмента.
– Предложен метод обучения нейронных сетей, основанный на
интеграции динамического изменения размера батча и циклической скорости
обучения с алгоритмом test-time аугментации на этапе предсказания новых данных.
Такая реализация позволяет повысить скорость сходимости по сравнению с
классическими методами обучения, использующими статический размер батча
и/или постоянное значение скорости обучения.
– Разработан алгоритм выбора гиперпараметров, основанный на
последовательном подборе значений параметров посредством использования
t-критерия Стьюдента для связанных выборок. Предлагаемый алгоритм позволяет
учитывать динамику на прошлых итерациях и не выполнять полный перебор по
подмножеству пространства гиперпараметров, что значительно сокращает время
подбора оптимальных значений.
Достоверность результатов диссертационного исследования
обеспечивается успешным тестированием обученных моделей, а достигнутые
результаты коррелируют и согласуются с эталонными, полученными
квалифицированными специалистами в следующих организациях: Boston
Children’s Hospital (Бостон, США), King’s College London (Лондон,
Великобритания), Memorial Sloan Kettering Cancer Center (Нью-Йорк, США),
Vanderbilt University Medical Center (Нэшвилл, США), IRCAD Hôpitaux
Universitaires (Страсбург, Франция). Принятые в работе авторские решения
основаны на известных и проверенных методах разработки глубоких нейронных
сетей для обработки медицинских графических данных. Положения диссертации
базируются на анализе и практических результатах использования машинного
обучения, обобщении опыта в области математического моделирования и
распознавания образов. Достоверность результатов, работоспособность
разработанных методов и алгоритмов подтверждается соответствием
экспериментальных данных, полученных в ходе исследований и опытного
внедрения.
Практическая значимость работы заключается в следующем:
– Разработанное программное обеспечение позволяет сопровождать
хирургические вмешательства, в том числе минимально инвазивные операции, а
также снизить вероятность врачебной ошибки.
– Научные исследования по визуализации медицинских инструментов в
анатомических структурах могут быть внедрены в медицинские образовательные
программы и использоваться в научно-исследовательских целях. Полученные
тр хмерные модели использованы студентами и медицинскими работниками в
целях моделирования поведения хирургического инструмента при проведении
малоинвазивных операций, а также для симуляционного и имитационного
обучения новым методам диагностики и вмешательств.
– Модели и методы, использующиеся для обработки медицинских
изображений, могут применяться при выполнении минимально инвазивных
вмешательств в хирургической онкологии, нейрохирургии и сосудистой хирургии.
– В связи с отсутствием в настоящее время предварительно обученных
тр хмерных нейронных сетей для выполнения сегментации, все полученные
модели могут использоваться в качестве первичной инициализации весов. В таком
случае время обучения новых моделей значительно снизится.
Положения, выносимые на защиту:
– Метод сегментации на основе V-net архитектуры с плотными
пробросами признаков позволяет решить задачу сегментации не только
медицинского инструмента, но и анатомических структур с высокой точностью.
При тестировании используемого метода точность сегментации катетера составила
93.6±2.4%, а левого предсердия – 92.2±2.7%.
– Алгоритм синтеза ультразвуковых данных позволяет повысить
точность сегментации за сч т увеличения репрезентативности обучающей выборки
и автоматизировать процесс разметки сгенерированных данных. Тестирование
стандартной и разреженной U-net архитектур выявило положительную тенденцию
изменения точности за сч т увеличения количества синтетических примеров в
обучаемых выборках. Точность сегментации для разреженной U-net архитектуры
составила 86.5±3.6%, 88.3±3.1%, 89.8±3.5% и 92.6±2.2% при RDR равном 1.00, 0.50,
0.33 и 0.25 соответственно.
– Метод обучения нейронных сетей на основе использования
динамического размера батча и циклической скорости обучения, а также
предсказания на основе алгоритма test-time аугментации позволяет в среднем на
6.0% точнее выполнять предсказания новых данных, а также повысить
обобщающую способность и над жность модели. Использование данного метода
увеличило точность сегментации медицинского инструмента и анатомических
структур в среднем на 3.0% и 6.3% соответственно.
– Алгоритм выбора гиперпараметров позволяет снизить время поиска
оптимальных значений параметров модели по сравнению с такими алгоритмами,
как Grid Search и Randomized Search. Предлагаемый алгоритм учитывает динамику
точности модели на прошлых итерациях и не проходит по всему подмножеству
пространства гиперпараметров. При использовании предлагаемого подхода с 11
гиперпараметрами количество моделей для оптимизации составило 690 вместо
204 374 016 для Grid Search и Randomized Search.
Внедрение. Разработанные методы и алгоритмы сегментации используются
в федеральном государственном бюджетном научном учреждении «Научно-
исследовательский институт комплексных проблем сердечно-сосудистых
заболеваний» (Кемерово, Россия) и адаптированы для выполнения сегментации
стеноза при проведении диагностики коронарных артерий на основе данных
ангиографии (акт о внедрении от 07.05.2019). Материалы диссертационной работы
используются при проведении практических занятий по дисциплинам «Машинное
обучение», «Технология обработки информации», «Теория распознавания
образов», «Нейронные сети», «Методы интеллектуальной обработки и анализа
изображений» для магистрантов направлений 230100 “Информатика и
вычислительная техника” и 230400 “Информационные системы и технологии” в
Томском политехническом университете (акт о внедрении от 05.09.2019).
Реализация результатов. Результаты диссертационного исследования
использованы при выполнении следующих научно-исследовательских проектов:
– Государственное задание “Наука” №4003/БЧ «Разработка новых
моделей и методов для диагностики и лечения заболеваний сердца и нарушений
мозгового кровообращения».
– Государственное задание “Наука” №17.8205.2017/БЧ «Моделирование
и алгоритмизация процессов обработки, анализа и репрезентации графических
данных в режиме реального времени для проведения эндоваскулярных операций
на сердце».
– Грант РНФ №18-75-10061 “Исследование и реализация концепции
роботизированного малоинвазивного протезирования клапана аорты”.
– Государственное задание “Наука” №FFSWW-2020-0014 «Разработка
научных основ технологии роботизированной мультипараметрической
томографии на основе методов обработки больших данных и машинного обучения
для исследования перспективных композиционных материалов».
Апробация. Работа прошла апробацию на следующих конференциях:
– III International Scientific Conference on Information Technologies in
Science, Management, Social Sphere and Medicine (Томск, Россия, 2016).
– XV Международная научно-практическая конференция студентов,
аспирантов и молодых уч ных (Томск, Россия, 2017).
– 27-я Международная конференция по компьютерной графике и
машинному зрению «ГрафиКон» (Пермь, Россия, 2017).
– Computer Assisted Radiology and Surgery International Conference and
Exhibition (Берлин, Германия, 2018).
– V International workshop “Critical infrastructures: Contingency
management, Intelligent, Agent-based, Cloud computing and Cyber security” (Иркутск,
Россия, 2018).
– 28-я Международная конференция по компьютерной графике и
машинному зрению «ГрафиКон» (Томск, Россия, 2018).
– 18th International Conference on Mechatronics (Брно, Чехия, 2018).
– 14th International Conference on Electromechanics and Robotics
“Zavalishin’s Readings” (Курск, Россия, 2019).
– International Workshop on “Photogrammetric and computer vision
techniques for video surveillance, biometrics and biomedicine” (Москва, Россия, 2019).
– 29-я Международная конференция по компьютерной графике и
машинному зрению «ГрафиКон» (Брянск, Россия, 2019).
– 14th International Forum on Strategic Technology (IFOST 2019) (Томск,
Россия, 2019).
– I Всероссийский Конгресс с международным участием «Физиология и
тканевая инженерия сердца и сосудов: от клеточной биологии до протезирования»
(Кемерово, Россия, 2019).
Публикации. Основные результаты диссертационного исследования
нашли сво отражение в 22 печатных работах, из которых:
– 4 публикации в рецензируемых журналах, рекомендованных ВАК РФ;
– 13 публикаций в изданиях, индексируемых в базах научного
цитирования Scopus и Web of Science (в том числе, 4 работы типа Article, 9 работ
типа Conference paper);
– 5 публикаций в других изданиях;
Дополнительно получены:
– 5 свидетельств о государственной регистрации программ для ЭВМ;
– 1 решение о выдаче патента на изобретение.
Личный вклад соискателя. Основные научные результаты, выносимые на
защиту, получены автором лично. Данная работа выполнена в сотрудничестве с
уч ными и исследователями, оказавшими содействие при проведении настоящего
исследования, а именно:
– Постановка задач исследования по теме диссертации выполнена
совместно с научным руководителем Гергет О.М. (Томский политехнический
университет) и кардиохирургом Васильевым Н.В. (Boston Children’s Hospital,
Harvard Medical School).
– Обзор существующих алгоритмов анализа, обработки и визуализации
медицинских данных выполнен совместно со Скирневским И.П. (Центр
Финансовых Технологий) и научным руководителем Гергет О.М. (Томский
политехнический университет).
– Сбор, разметка и валидация ультразвуковых данных при проведении
минимально инвазивных вмешательств выполнены совместно с кардиохирургом
Васильевым Н.В. (Boston Children’s Hospital, Harvard Medical School).
– Разработка алгоритма синтеза ультразвуковых данных сердца и
медицинского инструмента выполнена совместно с Манаковым Р.А. (Научно-
исследовательская лаборатория «Гамма технологии») и Колпащиковым Д.Ю.
(Лаборатория дизайна медицинских изделий, Томский политехнический
университет).
– Разработка архитектуры нейронной сети выполнена совместно с María
J. Ledesma-Carbayo, David Bermejo Peláez и Luis Alfonso Hernández Gómez
(Biomedical Imaging Technologies Laboratory, Universidad Politécnica de Madrid).
Благодарности. Автор выражает искреннюю благодарность:
– María J. Ledesma-Carbayo (Biomedical Imaging Technologies Laboratory,
Universidad Politécnica de Madrid) за предоставленный сервер с видеокартами Titan
X и Titan Xp для проведения исследования;
– Farid Melgani (Signal Processing and Recognition Laboratory, Università
degli Studi di Trento) за курирование исследования, посвящ нного извлечению и
выявлению наиболее релевантных и информативных признаков
– Alejandro F. Frangi (Center for Computational Imaging and Simulation
Technologies in Biomedicine, University of Leeds) за оборудование для выполнения
обучения/валидации моделей и доступ к платформам MULTI-X, Amazon Web
Services и UK Biobank.
Структура и объём диссертации. Диссертация состоит из введения, 3 глав,
заключения, списка использованной литературы из 179 наименований и 2
приложений. Работа изложена на 191 странице и включает 85 рисунков и 36 таблиц.
1 Обзор существующих средств обработки медицинских данных
Оценка современного состояния сферы информационных технологий в
медицине показала, что из-за слабой развитости средств тр хмерной визуализации
большой спектр реконструктивных вмешательств осуществляется только на
открытом «сухом» сердце с применением искусственного кровообращения. Такой
способ проведения вмешательств обладает множеством послеоперационных
осложнений, что оста тся проблемой. Несмотря на то, что существуют
программно-аппаратные решения аналогичные CARTO3, их применение не всегда
становится возможным из-за громоздкости, сложности, дороговизны, а также узкой
сферы применения. В подавляющем большинстве операционные комнаты
оборудованы флюороскопией и/или эхокардиографией. В связи с этим,
использование современных средств обработки и визуализации данных на
основании этих модальностей становится достаточным и эффективным. Исходя из
этого, существует потребность в развитии методов, моделей и алгоритмов,
позволяющих выделить медицинский инструмент и анатомические структуры на
тр хмерных данных. Данная потребность объясняется низкой над жностью и
точностью существующих средств тр хмерной визуализации области
вмешательства, а также отсутствием обратной связи между средствами
визуализации и средствами позиционирования медицинского инструмента.
Для решения задачи сегментации области интереса предлагается
использовать метод глубокого обучения на основе св рточных нейронных сетей.
Последние зарекомендовали себя в качестве эффективного инструмента при
решении задач, связанных с обработкой данных. При обучении нейронные сети
самостоятельно проводят процедуру выбора оптимальных признаков, что
эффективно решает поставленную задачу. В качестве основной архитектуры
нейронной сети предлагается использовать св рточную нейронную сеть V-net с
плотными пробросами признаков, где основные закодированные признаки
находятся на нижнем уровне сети. Для более эффективного декодирования
признаков и получения финальной сегментации используются обучаемые слои
обратной св ртки, а не стандартные слои повышающей дискретизации.
Дополнительно стоит отметить внедр нные в архитектуру сети пробросы
признаков. Данные пробросы позволяют не затухать градиентам при обратном
прохождении метода обратного распространения ошибки и эффективнее
минимизировать функцию потерь.
С целью эффективного обучения нейронных сетей были внедрены и
использованы алгоритм циклической скорости обучения и алгоритм изменения
размера батча. В случае остроконечных и невыпуклых ландшафтов функции
потерь метод обратного распространения ошибки потенциально имеет более
высокую вероятность попадания в зону локального минимума и седловых точек,
что негативно скажется на точности и обобщающей способности модели.
Подобные алгоритмы позволили нивелировать проблему, связанную с подобными
случаями. Стоит также отметить, что в работе использовалась функция потерь,
основанная на бинарной мере сходства Дайса. В отличие от кросс-энтропии,
используемая функция потерь эффективнее справляется с сегментацией небольших
объектов. Так, например, размер медицинского инструмента (катетера) в
исследуемом наборе данных составляет 1415±529 вокселей из 2 097 152, что
представляет примерно 0.07% всего изображения.
В качестве оптимизации гиперпараметров модели использовался алгоритм,
основанный на оценке t-критерия Стьюдента для связанных выборок. В отличии от
таких подходов, как Grid Search или Randomized Search, предлагаемый алгоритм
учитывает динамику на прошлых итерациях и не проходит по всему подмножеству
пространства гиперпараметров. Согласно данному алгоритму, чем больше
t-статистика отклоняется от нуля, тем меньше вероятность того, что базовая и
сравниваемая модели имеют одинаковые результаты. Ярким примером является
случай оптимизации коэффициента св рточных фильтров. Несмотря на то, что
средняя точность при коэффициенте равном 8 выше (0.91±0.04), чем точность при
коэффициенте равном 4 (0.90±0.04), значение t-критерия данных моделей
показывает, что они отличаются не значительно. Аналогичная ситуация
наблюдается в случае с выбором оптимального типа активации, где функция
PReLU была отклонена из-за того, что она увеличивает сложность модели
практически вдвое, при этом, не увеличивая е точность.
Несмотря на сравнительно высокие показатели точности на тестовой
выборке, дополнительно был внедр н алгоритм test-time аугментации. Данный
алгоритм производит предсказание не по одному примеру, а по N
аугментированных примеров. В случае если модель слабо выполняет предсказания
на новых данных, использование test-time аугментации повышает шансы модели на
более корректное прогнозирование, вследствие чего увеличивая точность
сегментации. Внедр нный алгоритм test-time аугментации увеличил среднюю
точность предсказания на тестовой выборке данных медицинского инструмента на
3%. Схожая ситуация наблюдалась при сегментации селез нки, где точность
увеличилась в среднем на 8%. Наиболее эффективно test-time аугментация показала
себя при сегментации поджелудочной железы, где точность сегментации выросла
с 68.6±11.6% до 82.9±5.8%.
Предлагаемая V-net архитектура с плотными пробросами признаков
сравнивалась с некоторыми классическими архитектурами сегментации, такими
как FCN, SegNet, Deep Medic и U-net. Важно отметить, что использование таких
архитектур как FCN и SegNet не дало хороших результатов. В свою очередь,
архитектуры на основе U-net, в том числе и псевдотр хмерная U-net архитектура,
способны выполнить сегментацию качественно. Стандартная U-net архитектура
выполнила сегментацию катетера с точностью равной 80.5±5.8%. Однако
наибольшую точность показала предлагаемая V-net архитектура, точность которой
на обучающей выборке составила 93.8±2.2%, а на тестовой – 90.6±3.3%.
Дополнительное внедрение алгоритма test-time аугментации увеличено точность
V-net архитектуры на тестовой выборке с 90.6±3.3% до 93.6±2.4%. Представленная
архитектура V-net с плотным пробросом признаков показала высокие результаты
сегментации анатомических структур по сравнению с 11 лучшими моделями
соревнования «Medical Segmentation Decathlon». Таким образом, точность
сегментации левого предсердия составила 92.2±2.7%, поджелудочной железы –
82.9±5.8%, селез нки – 93.6±1.6%, гиппокампа – 94.9±1.5%, печени – 95.9±1.0%.
СПИСОК СОКРАЩЕНИЙ И ОПРЕДЕЛЕНИЙ
Минимально – направление хирургии, предусматривающее
инвазивная хирургия минимизацию повреждений органов и тканей, которые
обусловлены операционным вмешательством
Сегментация – процедура присвоения меток каждому пикселю
изображения таким образом, что пиксели с
одинаковыми метками имеют общие визуальные
характеристики и образуют сегменты
Каскадные алгоритмы – класс алгоритмов, которые базируются на
использовании множества последовательно идущих
блоков обработки данных
Обобщающая – способность модели к распространению
способность обнаруженных на обучающем множестве
зависимостей и закономерностей на новые данные
U-net – архитектура св рточной нейронной сети, которая
содержит сжимающий путь (энкодер), расширяющий
путь (декодер) и пробросы признаков с энкодера в
декодер
Pseudo 3D U-net – архитектура св рточной нейронной сети, аналогичная
архитектуре U-net, выполняющая процесс
сегментации послайсово, в отличие от полноценной
тр хмерной сегментации изображений, выполняемой
U-net моделью
Dilated U-net – архитектура св рточной нейронной сети, аналогичная
архитектуре U-net, использующая разреженное
рецептивное окно
V-net – предлагаемая архитектура св рточной нейронной
сети, которая содержит сжимающий путь (энкодер),
расширяющий путь (декодер), дополнительный
двойной св рточный блок между энкодером и
декодером, пробросы признаков с энкодера в декодер
и пробросы признаков внутри энкодера и декодера
Батч (от англ. batch) – группа определ нного числа объектов (изображений),
которая используется при обучении нейронной сети
Скорость обучения – параметр градиентного алгоритма обучения
(от англ. learning rate, нейронных сетей, который позволяет управлять
LR) величиной коррекции весов на каждой итерации
TTA (сокр. от Test- – алгоритм аугментации данных, использующий ряд
Time Аугментация) трансформированных экземпляров для предсказания
на отложенной выборке
Гиперпараметры – параметры, значения которых задаются до начала
обучения модели и не оптимизируются/изменяются в
процессе обучения
RDR (сокр. от Real – параметр, отражающий соотношение реальных и
Data Ratio) искусственных экземпляров в выборке
Помогаем с подготовкой сопроводительных документов
Хочешь уникальную работу?
Больше 3 000 экспертов уже готовы начать работу над твоим проектом!
5 (14 отзывов)
4.9 (5 отзывов)
4.9 (298 отзывов)
4.6 (522 отзыва)
4.9 (66 отзывов)
4.5 (9 отзывов)
5 (1241 отзыв)
5 (91 отзыв)
4.8 (40 отзывов)
