Правовое регулирование информационных отношений по использованию систем искусственного интеллекта

Во введении обосновывается актуальность темы диссертационного
исследования, раскрывается степень научной разработанности проблемы;
определены предмет и объект исследования, его цель и задачи; раскрывается
его теоретическая, методологическая, нормативно-правовая и эмпирическая
основы; обоснована новизна исследования; сформулированы основные
положения, выносимые на защиту; раскрывается, в чем состоит теоретическая
и практическая значимость исследования, а также приведены результаты
апробации результатов исследования.
В первой главе диссертационного исследования «Понятие системы
искусственного интеллекта и интеллектуальных информационных
систем», состоящей из трех параграфов, поднимается вопрос о понятийно-
категориальном аппарате рассматриваемой области знаний.
В первом параграфе «Соотношение понятий системы искусственного
интеллекта и интеллектуальных информационных систем» изучены и
проанализированы существующие представления о понятии искусственного
интеллекта – как научные, так и законодательные.
Через анализ принципов юридической техники и законов логики
становится возможным сделать вывод, что не сложилось единого понимания
термина «искусственный интеллект» и «система искусственного интеллекта».
В целях выработки новых подходов и построения эффективной модели
правового регулирования отношений в сфере искусственного интеллекта, а
такжепостроенияиразвитияпонятийно-категориальногоаппарата
информационного права и института цифрового права сформулированы
авторскиеопределенияпонятий«интеллектуальныеинформационные
системы» и «система искусственного интеллекта».
Под «интеллектуальной информационной системой», в свою очередь,
предлагаетсяпониматьсовокупностьинформации,информационных
технологий и технических средств, обеспечивающих проведение обработки и
анализа информации и принятия решений на основе полученных выводов (в
том числе, но не ограничиваясь – с использованием методов машинного
обучения), и направленных на исполнение целей функционирования этой
системы, определяемых разработчиком.
Указанная категория включает в себя автономные транспортные
средства, комплекс системы распознавания лиц, советников (агентов) и иные
системы, включая и систему искусственного интеллекта. Последняя будет
являться интеллектуальной системой высшего уровня, как наиболее
самостоятельная.
Под системой искусственного интеллекта предложено понимать
полностью самостоятельную, т.е. автономную от человека, основанную на
методах машинного обучения (или иных методах, которые могут быть
разработаны и/или открыты в будущем), технологическую систему,
создаваемую для функционирования одной или нескольких интеллектуальных
информационных систем, доступ к которой осуществляется с использованием
средств вычислительной техники.
Во втором параграфе «Система искусственного интеллекта и
информационные системы» путем анализа понятия «системы» строится
вывод,чтоинтеллектуальныеинформационныесистемыявляются
разновидностью информационных систем, в отношении которых можно
выделить существенные признаки: автоматизированное принятие решений на
основе информационных технологий; обязательное участие человека при
проведении обработки и анализа информации; использование специального
аппаратно-технического комплекса, обеспечивающего анализ информации на
основе методов машинного обучения; совокупность рисков и угроз, которые
должны быть учтены разработчиками, операторами, пользователями и иными
субъектами интеллектуальных информационных систем. Уникальность
правовогорежимаинтеллектуальныхинформационныхсистемкак
разновидности информационных систем обусловлено наличием совокупности
уникальных субъективных прав и обязанностей субъектов интеллектуальных
информационныхсистем,специальныхтехническихипрограммно-
аппаратных средств, обусловленных функциональным предназначением той и
иной системы, а также системы рисков и угроз, которые должны
устанавливаться законодательно и учитываться субъектами интеллектуальных
информационных систем в процессе их создания и разработки.
В третьем параграфе «Правовая природа системы искусственного
интеллекта» поднимается вопрос о потенциальной правосубъектности систем
искусственного интеллекта. Поскольку она способна получать, обрабатывать
и анализировать информацию разных типов и видов и принимать
самостоятельные решения на основе предыдущего опыта и/или чистого
анализа данных по любому вопросу и в любой области деятельности, на
основании приема юридической фикции, систему искусственного интеллекта,
по нашему мнению, можно рассматривать в строго определённых законом
целях как электронное лицо, обладающее правосубъектностью, при условии,
что речь идет о признаваемом правом субъекте, не имеющим природной
реальности, специально созданной юридической конструкции, позволяющей
признать юридически значимый характер совершаемых такой системой
действий и нести за них юридическую ответственность без вины. Электронное
лицо в этом случае можно рассматривать как новый вид субъекта
информационногоправа,отличныйотфизическихиюридических
(коллективных) лиц.
Разбирая составные элементы правосубъектности, также стало
возможным сформулировать ее особенности для нового потенциального вида
субъекта права. Правоспособность системы искусственного интеллекта может
возникатьсмоментапрохожденияполноценнойэпохиполностью
скомпилированной программой при оценке результатов ее способностей к
анализу данных и построению выводов на основе них. Дееспособность
системы искусственного интеллекта может быть связана с теорией принятия
решений.
Что касается деликтоспособности, если и применять к системе
искусственного интеллекта понятие «ответственности», то от классического
понимания, с нашей точки зрения, придется отказаться, рассмотрев
возможность использования терминов либо «позитивной ответственности»,
либо «объективной ответственности», либо каких-то иных новых походов к
данной правовой категории. В работе доказано, что категория ответственности
к электронным лицам применима лишь ограниченно – как объективная
ответственность, поскольку система искусственного интеллекта не может
быть «виновна» в современном значении термина, поэтому к ней применимы
лишь безвиновные формы ответственности.
Вторая глава диссертационного исследования «Принципы, подходы
и модели развития правового регулирования отношений в области
искусственного интеллекта» состоит из 3 параграфов и посвящена анализу
текущего состояния правового регулирования искусственного интеллекта в
России и мире.
В первом параграфе «Подходы к правовому регулированию систем
искусственного интеллекта» исследования исследуются международные,
зарубежные и российские правовые акты, посвященные искусственному
интеллекту. Анализ показывает, что в настоящее время в мире не существует
единого подхода не только к самому регулированию рассматриваемых в
настоящем диссертационном исследовании технологий, но и к необходимости
в принципе их регулировать. В отдельных международных организациях и
наиболее развитых странах принимаются рамочные, декларативные и
стратегические документы, обозначающие общие подходы и цели, но в
большинстве случаев не содержащие конкретные механизмы правового
регулирования. В Российской Федерации существуют концептуальные
документы,акты,создающиеэкспериментальныережимы;активно
развивается точечное регулирование в области здравоохранения.
Тем не менее, можно выделить несколько основных современных
подходов к регулированию вопросов, связанных с системами искусственного
интеллекта. Первый подход – финансово-стратегический: при нем в
международнойорганизации/государствепринимаетсястратегический
документ, не содержащий правовых норм в чистом виде, а лишь
декларирующийнаправленияразвития,закладывающийфинансовое
обеспечение проектов по созданию и внедрению технологий искусственного
интеллекта. Второй подход – этический: международная организация или
государство принимают документы, содержащие этические принципы
создания, развития и внедрения систем искусственного интеллекта в жизнь
общества. Третий подход – условно регулирующий. Слово «условно»
применено в данном случае потому, что даже те государства, которые приняли
законы или иные нормативные правовые акты, сделали это лишь в отношении
отдельных технологий и/или сфер их применения и/или в данный момент
развивают лишь техническое регулирование. О комплексном нормативно-
правовом регулировании интеллектуальных информационных систем сейчас
речь не идет ни в одной юрисдикции.
Во втором параграфе «Принципы правового регулирования систем
искусственного интеллекта и интеллектуальных информационных систем»
рассматриваются существующие принципы правового регулирования в сфере
искусственного интеллекта. Рассмотрены основные акты международных
организаций, а также принятый в РФ Национальный кодекс этики
искусственного интеллекта.
У всех принятых в настоящее время принципов есть два основных
связывающих признака: антроцентричность и страх перед угрозой новых
технологий. Существующие документы по-разному оценивают опасность
технологий: некоторые лишь обращают внимание на потенциальные риски,
другие же открыто подразумевают ее. Стремление к антропоцентричности в
целом вполне ясно: последние 70 с лишним лет, после завершения Второй
мировой войны, человечество активно стремиться не допускать подобных
трагедий мирового масштаба и, понимая, что во многом войны и катастрофы
связаны с отношением людей друг к другу в целом, прикладывает усилия для
защиты прав и свобод человека, гражданина и общностей людей.
Общие принципы права и принципы информационного права без
сомнений в равной мере применимы и к регулированию отношений по
созданиюииспользованиюинтеллектуальныхсистемисистем
искусственного интеллекта. Тем не менее, именно в данной сфере
предлагается ввести уникальные принципы: ответственности человека за
последствия решений, сделанных интеллектуальными системами 1-4 уровней
(«презумпции невиновности интеллектуальной системы»); обязанности
разработчика использовать максимально возможное количество данных
максимального качества при обучении («стремления к идеальной модели»);
необходимости лицензирования интеллектуальных систем и/или входящего в
них программного обеспечения, в случае если его применение напрямую
затрагивает интересы и права людей («лицензирования для защиты
человека»);запретаразработкиииспользованияинтеллектуального
программного обеспечения во вред («запрета вредоносных целей»).
В третьем параграфе «Модели развития правового регулирования
отношений по разработке и внедрению интеллектуальных информационных
систем и систем искусственного интеллекта» рассматриваются подходы к
общей концепции правового регулирования искусственного интеллекта.
Наиболеелогичнымпредполагаетсяпринятиеуниверсального
международного акта, но первоначально предлагается разработка модели
правового регулирования отношений в области разработки и использования
интеллектуальных систем, включающей в себя: понятийно-категориальный
аппарат; специальные принципы; роль и значение отдельных видов
интеллектуальных систем, а также их применение в отдельных сферах
общественной жизни с учетом их функциональных характеристик; общие
требования к разработке и правила использования интеллектуальных систем
каждого вида; роль и место отдельных регуляторов, а также механизмы их
взаимодействия. В модели необходимо учесть упомянутое ранее деление
интеллектуальныхсистемнавидывзависимостиотстепениих
самостоятельности.
Модель не должна содержать ограничительные или запрещающие
положения. Напротив, необходимо предусмотреть в ней защиту от угроз и
рисков с предоставлением разнообразия возможностей дальнейшего развития
технологий, как это и делают отдельные страны и Россия в отношении
«искусственного интеллекта» сейчас.
Кроме того, особое место, по нашему мнению, в регулировании
рассматриваемых технологий занимает именно техническое регулирование.
Оно более эффективно применительно к задачам формирования понятийного
аппарата, который в дальнейшем может использоваться в процессе правового
регулирования, в том числе и при применении отсылок к нему. Механизмы
создания и применения технических норм позволяют более оперативно по
сравнению с правовыми нормами реагировать на новые технологические
вызовы и угрозы. Они разрабатываются экспертами соответствующей
области, устанавливают рамки и границы разработки и внедрения новых
технологий с учетом интересов как разработчиков, так и государства.
Втретьейглаве«Проблемыиприоритетыправового
регулирования отношений в области искусственного интеллекта»,
состоящей из трех параграфов, рассматриваются проблемы и приоритеты
правового регулирования отношений в области искусственного интеллекта.
В первом параграфе «Проблемы правового статуса электронных лиц»
проанализирована концепцию электронных лиц. Ее появление связано с
текущим состоянием теории права, в рамках которой условный «робот» или
«искусственный интеллект» может быть как физическим, так и юридическим
лицом, если его признавать субъектом права. Особое внимание уделено и
теории«квазисубъектов»,посколькумногиеисследователиготовы
потенциальнопризнатьсистемыискусственногоинтеллектаименно
квазисубъектами права. Сторонники концепции считают, что системы
искусственного интеллекта не могут стать полноценными субъектами права
из-за их ограниченного потенциала, хотя в теории могут иметь какие-то
юридические права и обязанности.
Данные аргументы сталкиваются, по нашему мнению, с двумя
аспектами. Первый связан с тем, что указываемые особенности человека не
всегда нужны в профессиональных вопросах. Поскольку правосубъектность
являетсяюридическойфикцией,необходимойдляучастияв
правоотношениях, именно вопросам эффективности стоило бы придавать
больший вес, нежели вопросам социальным или моральным. Разумеется, с
учетом того, что речь идет исключительно про правовые вопросы, не
затрагиваются напрямую социальные особенности человека и его личные
взаимоотношения. Второйаспект раскрываетсячерез необходимость
проработки особенностей нового вида субъекта права, выделяя его в
принципиально новый тип. Таким образом, искусственный интеллект как
субъект будет существовать параллельно с уже имеющимся.
Во втором параграфе «Приоритет рискориентированного подхода к
правовому регулированию создания и использования интеллектуальных
систем и систем искусственного интеллекта» разобран рискориентированный
подход, который без сомнений можно сейчас считать главенствующим в
разработке правового регулирования отношений в области разработки и
применения интеллектуальных систем (прямо или косвенно). Он отлично
показывает уровень и реальность угроз, обсуждаемых при принятии решений
в отношении технологий искусственного интеллекта, хотя и не во всех случаях
и не в полной мере. Риски и угрозы действительно могут существовать, но
оценивать их нужно комплексно, учитывать их реальность по фактам, а не с
точки зрения человеческих опасений и страхов.
Обосновывается, что при применении рискориентированного подхода
требует выработки специальный механизм регулирования в сфере разработки
и использования систем искусственного интеллекта, включающий в себя
совокупность специальных юридических, этических и иных средств, таких
как:лицензированиедеятельностиразработчиковинтеллектуальных
информационных систем и сертификация последних; явное информированное
согласиелица,вотношениикоторогоинтеллектуальнойсистемой
принимается автоматизированное решение; страхование ответственности
разработчика; правовые презумпции и фикции, в частности – презумпция
ответственности человека за решения интеллектуальных информационных
систем,презумпциянепризнаниясистемысистемойискусственного
интеллекта до прохождения специальных тестов, юридическая фикция
признания за системой искусственного интеллекта правосубъектности;
правовые гарантии, льготы и стимулы для развития создания и использования
интеллектуальных информационных систем и систем искусственного
интеллекта; общие этические принципы и стандарты поведения субъектов в
сфере искусственного интеллекта; разработка наилучших практик решения
возникающих этических вопросов в жизненном цикле искусственного
интеллекта и механизма мониторинга его применения; и т.д.
В третьем параграфе «Применение интеллектуальных систем и систем
искусственного интеллекта в сфере государственного управления» подняты
вопросы использования интеллектуальных систем в государственном
управлении и в дальнейшем – в построении цифрового государства. В
современном государстве все активнее ведутся процессы информатизации
управления, начавшиеся еще в начале века. Это привело к созданию
электронных правительств (государств), однако все громче звучат идеи
цифрового государства. Последнее является особой формой государственного
управления, при которой функции государства реализуются благодаря
алгоритмам и искусственному интеллекту.
Также систематизируются способы и варианты использования
интеллектуальных систем в государственном управлении во всех ветвях
власти. При этом стоит отметить, что пока речь не идет о системе
искусственного интеллекта, а лишь об интеллектуальныхсистемах,
необходимо выстраивать четкие границы их применения в государственном
управлении. Пока они не способны самостоятельно мыслить, они должны
быть подконтрольны человеку.
В заключении подводятся итоги проведенного диссертационного
исследования, излагаются основные наши выводы.
В приложениях приложена таблицу с наглядным сравнением методов
машинного обучения и перевод таблицы со степенями автоматизации
транспортных средств, как они даны в международном стандарте Сообщества
автомобильныхинженеров(SocietyofAutomotiveEngineers,SAE)
«Классификация и определения терминов автоматизированного управления
движением автотранспортных средств» («Taxonomy and Definitions for Terms
Related to Driving Automation Systems for On-Road Motor Vehicles»).
Основные положения диссертационного исследования изложены в
следующих опубликованных работах в рецензируемых научных журналах
и изданиях, рекомендованных ВАК при Минобрнауки России (общим
объемом 1,74 п.л.):
1.Щитова,А.А.Опотенциальнойправоспособности
искусственного интеллекта / А. А. Щитова // Аграрное и земельное право. –
2019. – № 5 (173). – С. 94-98. – 0,6 п.л.;
2.Щитова, А. А. Роль права в использовании искусственного
интеллекта в цифровом государстве / А. А. Щитова // Информационное право.
– 2020. – № 2 (64). – С. 35-40. – 0,71 п.л.;
3.Щитова,А.А.Интеллектуальныесистемыvsсистемы
искусственного интеллекта: новый понятийно-категориальный аппарат /
А. А. Щитова // Право и государство: теория и практика. – 2021. – № 4 (196). –
С. 306-308. – 0,43 п.л.
Публикации в иных изданиях (общим объемом 2,24 п.л.):
1.Shchitova A. Definition of Artificial Intelligence for Legal Regulation
// Proceedings of the 2nd International Scientific and Practical Conference on Digital
Economy (ISCDE 2020), Advances in Economics, Business and Management
Research, Vol. 156 (2020). – Atlantis Press SARL, 2020. – P. 616-620.
https://doi.org/10.2991/aebmr.k.201205.104 – 0,59 п.л.;
2.Щитова,А. А.Оборотданныхвусловияхразвития
интеллектуальных технологий / А. А. Щитова // Московский юридический
форум онлайн – 2020: сборник тезисов докладов: в 4 ч. – Ч. 4. Москва : РГ-
Пресс, 2020. – С. 227-229. – 0,2 п.л.;
3.Бекин, А. В., Щитова, А. А. Инновационная дисциплина «Смарт-
контракты» магистерской программы «Магистр IT-LAW»: методологические
вопросы / А. В. Бекин, А. А. Щитова // Права и обязанности гражданина и
публичной власти: поиск баланса интересов. XVII Международная научно-
практическая конференция (Кутафинские чтения) и XX Международная
научно-практическая конференция юридического факультета Московского
государственного университета имени М.В. Ломоносова (МГУ): сборник
тезисов докладов: в 5 ч. – Ч. 4. М.: РГ-Пресс, 2020. – С. 466-469. – 0,21 п.л.;
4.Щитова, А. А. Понятие искусственного интеллекта / А. А. Щитова
// Российская правовая система в условиях четвертой промышленной
революции.XVIМеждународнойнаучно-практическойконференции
(Кутафинские чтения): материалы конференции: в 3 ч. – Часть 3. – Москва: РГ-
Пресс, 2019. – С. 416-419. – 0,22 п.л.;
5.Щитова,А.А.Квопросуопотенциальнойправо-и
дееспособности систем искусственного интеллекта / А. А. Щитова // Традиции
и новации в системе современного российского права: Сборник тезисов XVII
Международнойнаучно-практическойконференциимолодыхученых,
Москва, 06–07 апреля 2018 года. – М.: Проспект, 2018. – С. 42-43. – 0,08 п.л.;
6.Щитова, А. А. Риски применения технологий искусственного
интеллекта и пути их преодоления / А. А. Щитова // Актуальные проблемы
развития юридической науки в условиях правовой интеграции. К 90-летию
Университета имени О.Е. Кутафина (МГЮА): монография / коллектив
авторов ; под общ. ред. В.В. Блажеева, М.А. Егоровой. – Москва: КНОРУС,
2021. – С. 320-335. – 0,94 п.л.