О спектральных свойствах операторов, ассоциированных с некоэрцитивными смешанными задачами для эллиптических систем

Хорошо известно, что интегро-дифференциальные эрмитовы формы тесно связаны с
обобщенными постановками краевых задач для дифференциальных уравнений и си-
стем, а также с теоремами существования и единственности для таких задач (см., на-
пример, [1], [2], [8], [20], [21], [28], [52], и другие).
Однако, при изучении краевых задач важны не только теоремы существования и
единственности, но и формулы для нахождения их точных и приближенных решений.
Классический подход к изучению эллиптических уравнений в гильбертовых простран-
ствах позволяет находить решение краевых задач в (весовых) пространствах соболев-
ского типа в различных областях (гладкие области, липшицевы области, области с ко-
ническими и реберными особенностями и тд.), см., например [2], [20], [36], [39], [40], [45],
[50], [68] и многие другие. Не так давно данный подход был адаптирован к изучению
широкого класса некоэрцитивных (субэллиптических) смешанных краевых задач, см.
[30], [63].
Фактически, мы рассматриваем краевые задачи как операторные уравнения в под-
ходящих пространствах Гильберта. Конечно, всегда можно воспользоваться методом
Фаэдо-Галеркина, но дополнительная информация о полной системе функций, с по-
мощью которой строятся решения кравевых задач может существенно упростить вы-
числения. В случае уравнений с самосопряженными операторами обычно применяются
спектральные теоремы; например, теорема Гильберта-Шмидта (см. [9] или в [14, стр.
246]), гарантирующая полноту ортогональной системы собственных векторов самосо-
пряженного компактного оператора, а значит, и возможность построения точных и
приближенных решений операторных уравнений. Поэтому одной из целей будет на-
хождение соответствующих собственных значений и построение собственных функций
краевых задач.
В случае уравнений с несамосопряженными операторами все еще можно использо-
вать концепцию корневых элементов линейного оператора, но для этого опять требуется
доказать полноту системы корневых функций. Это замечание справедливо и в том слу-
чае, если для нахождения решений операторных уравнений используются численные
методы. В таком случае спектральная теория будет полезным инструментом для реше-
ния краевых задач для дифференциальных операторов с частными производными (см.,
например, [9], [12], [44]).
Классическим примером применения спектральной теории для решения систем ли-
нейных алгебраических уравнений является теорема о приведении матрицы самосо-
пряженного преобразования конечномерного пространства к диагональному виду (см.,
например, [9] или [17]). Для несамосопряженных преобразований конечномерного про-
странства плодотворным оказалось понятие корневого вектора преобразования. Ис-
пользование корневых векторов при решении систем алгебраических уравнений требует
доказательства полноты линейной оболочки этих векторов, что эквивалентно возмож-
ности приведения матрицы системы к нормальной жордановой форме.
По-видимому, впервые разложение по корневым векторам несамосопряженных опе-
раторов в пространствах Гильберта обосновал Келдыш [12]. Им была доказана полнота
системы корневых векторов слабых возмущений компактных самосопряженных опе-
раторов, а соответствующие результаты использованы при изучении задачи Дирихле
для слабо возмущенного оператора Лапласа. Применительно к общей теории краевых
задач, результаты такого типа хорошо известны для коэрцитивных (эллиптических)
задач в областях с гладкими границами (см. [36], [40]). Относительно спектральной