Публикуем проект закона «О безопасном использовании систем искусственного интеллекта в РФ» с комментарием авторов (В.И. Кожин, И.С. Ашманов, А.Л. Калинин, Н.И. Касперская, В.Б. Наумов).
В России 2026 год стал годом бурного развития регулирования использования искусственного интеллекта. С весны велось публичное обсуждение законопроекта «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации», предлагающего регулировать отношения, «возникающие в связи с разработкой, внедрением, использованием и иным применением технологий искусственного интеллекта». Летом был молниеносно принят Федеральный закон от 26 июля 2026 г. № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Ключевым предметом последнего стала сфера разработки, внедрения и применения больших фундаментальных моделей искусственного интеллекта.
Можно не сомневаться, что развитие правового регулирования, включая принятие подзаконных актов, будет продолжаться, и с учетом все возрастающего интереса к нему в России и в мире важно представлять различные точки зрения на логику, систему и ключевые особенности развития предметного российского законодательства.
С весны 2025 года в Совете Федерации осуществляет свою работу группа по развитию законодательства в сфере искусственного интеллекта под руководством сенатора РФ В.И. Кожина, занимающаяся как непосредственно разработкой проектов нормативных правовых актов в сфере искусственного интеллекта, так и смежной проблематикой – регулированием противодействия дипфейкам, совершенствованием информационного законодательства и законодательства о технологиях.
В начале года группа представила экспертному сообществу и органам государственной власти Российской Федерации проект федерального закона «О безопасном использовании систем искусственного интеллекта в Российской Федерации».
Он призван урегулировать не технологии или отдельные виды объектов в сфере искусственного интеллекта, а безопасное использование искусственного интеллекта в целом в наиболее ответственных сферах — социальной, в системе государственной власти и в массовом обслуживании.
Он рассматривает в качестве предмета регулирования использование систем искусственного интеллекта как информационных систем (далее – системы ИИ), гармонично встраивая новый закон в существующее свыше 30 лет в стране информационное законодательство и регулирование информационной безопасности, где информационная система, права и обязанности лиц, ее создающих и использующих, являются краеугольным камнем регулирования.
Важной для понимания логики разработанного документа является предлагаемая авторами система юридических понятий. Для раскрытия содержания объекта отношений вводятся два взаимосвязанных юридических термина:
искусственный интеллект – технология, обеспечивающая автоматизацию обработки и генерации информации, анализа данных, поиска и автономного принятия решений в различных областях деятельности, а также совокупность знаний и методов, содержащих теоретические и практические основы создания, функционирования, развития и регулирования таких технологий;
система искусственного интеллекта – информационная система, созданная на основе искусственного интеллекта, способная обеспечивать имитацию принятия решений и (или) действий человека, включая создание за него информации вне зависимости от форм еe представления.
В законопроекте все системы ИИ делятся на доверенные и другие системы, вводится реестр доверенных систем ИИ и критерии отнесения систем ИИ к доверенным. Это сделано для того, чтобы в наиболее важных и значимых для государства сферах разрешалось использовать только доверенные системы ИИ.
Например, для социальной сферы, к которой при написании были отнесены образование, здравоохранение, социальная защита, опека и попечительство, занятость населения, физическая культура и спорт, охрана окружающей среды, предлагается принять отдельные нормы по использованию технологий.
Наряду с доверенными системами ИИ, законопроект также выделяет категорию систем, запрещенных к использованию в Российской Федерации.
Инициатива предлагает обширный перечень прав и обязанностей основных субъектов отношений – производителей, операторов и пользователей систем ИИ, и рассматривает вопросы предметной юридической ответственности субъектов правоотношений, без которых любое регулирование правоотношений нельзя назвать устойчивым.
Пристальное внимание в законопроекте уделено защите прав человека и гражданина, в частности, устанавливаются:
– недопущение принуждения к использованию искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и органами местного самоуправления;
– право на отказ от использования искусственного интеллекта в юридически значимых ситуациях; урегулированы условия согласия гражданина на его использование;
– право физических лиц знать об использовании искусственного интеллекта при принятии решений, порождающих значимые последствия для них или иным образом затрагивающих их права и интересы (совместно с обязательностью маркировки результатов функционирования систем ИИ);
– право физических лиц на пересмотр принятых в отношении них значимых решений с использованием искусственного интеллекта — уже без использования искусственного интеллекта;
– право пользователей систем ИИ на взаимодействие с операторами систем ИИ без использования искусственного интеллекта.
Закономерно предлагается выделить комплекс норм, связанных с обучением искусственного интеллекта, авторы вводят требования, обращенные к субъектам правоотношений, в частности, обеспечить при обучении систем искусственного интеллекта правомерное использование достоверных и объективных наборов данных, не допускающих нарушение требований настоящего Федерального закона и иных федеральных законов и обеспечить формирование обучающих наборов данных с соблюдением законодательства.
Законопроект не включает в сферу регулирования интеллектуальную собственность и персональные данные, не вмешиваясь в сложившийся рынок и предметные отношения. Такой подход сохранит современную систему законодательства и правоприменения в сфере интеллектуальной собственности и конфиденциальной информации (тайнах).
Для специальных сфер развития технологий и систем ИИ, связанных с государственным суверенитетом и национальными интересами, устанавливается возможность принятия отдельных законов об особых случаях использования ИИ, включая суверенный и национальный ИИ.
Для отношений по использованию уже существующих систем ИИ устанавливается режим, когда нормы нового закона не распространяются на созданные решения в течение определенного периода времени.
Закон состоит из 27 статей, его структура и содержание приведены ниже в редакции по состоянию на июнь 2026 года и по своему содержанию в широком перечне вопросов не пересекается с принятым федеральным законом № 243-ФЗ.
Представляется, что полученные результаты нормотворческой деятельности могут эффективно использоваться в процессах государственного строительства и законотворчества в Российской Федерации.
Структура проекта федерального закона «О безопасном использовании систем искусственного интеллекта в Российской Федерации»
Статья 1. Сфера действия настоящего Федерального закона
Статья 2. Основные понятия, используемые в настоящем Федеральном законе
Статья 3. Цели и задачи правового регулирования общественных отношений в сфере использования систем искусственного интеллекта
Статья 4. Федеральный государственный контроль (надзор) за безопасным использованием систем искусственного интеллекта
Статья 5. Законность при использовании систем искусственного интеллекта
Статья 6. Защита прав и свобод лиц в сфере искусственного интеллекта
Статья 7. Использование систем искусственного интеллекта в социальной сфере и сфере массового обслуживания
Статья 8. Использование систем искусственного интеллекта в деятельности органов государственной власти и местного самоуправления
Статья 9. Согласие и отказ физического лица от использования систем искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и местного самоуправления
Статья 10. Доступность информации о функционировании систем искусственного интеллекта
Статья 11. Обеспечение достоверности результатов функционирования систем искусственного интеллекта
Статья 12. Идентификация результатов функционирования систем искусственного интеллекта
Статья 13. Права и обязанности производителей систем искусственного интеллекта
Статья 14. Права и обязанности операторов систем искусственного интеллекта
Статья 15. Права и обязанности пользователей систем искусственного интеллекта
Статья 16. Системы искусственного интеллекта, запрещeнные к использованию в Российской Федерации
Статья 17. Реестр доверенных систем искусственного интеллекта
Статья 18. Требования к безопасности доверенных систем искусственного интеллекта
Статья 19. Саморегулирование в сфере искусственного интеллекта
Статья 20. Страхование гражданской ответственности производителей и операторов систем искусственного интеллекта
Статья 21. Общие положения об ответственности за нарушения в сфере искусственного интеллекта
Статья 22. Особенности ответственности производителя и оператора системы искусственного интеллекта
Статья 23. Особенности ответственности пользователя систем искусственного интеллекта
Статья 24. Особенности ответственности лиц, формирующих обучающие наборы данных для доверенных систем искусственного интеллекта, и лиц, осуществляющих финансирование исследований и разработок в сфере искусственного интеллекта
Статья 25. Иск о запрете использования системы искусственного интеллекта
Статья 26. Обеспечение совершенствования законодательства в сфере искусственного интеллекта
Статья 27. Заключительные и переходные положения
Проект федерального закона «О безопасном использовании систем искусственного интеллекта в Российской Федерации»
Статья 1. Сфера действия настоящего Федерального закона
1. Настоящий Федеральный закон регулирует общественные отношения, возникающие при создании и использовании систем искусственного интеллекта.
2. Положения настоящего Федерального закона не распространяются на:
1) отношения, возникающие в связи с правовой охраной результатов интеллектуальной деятельности и приравненных к ним средств индивидуализации;
2) отношения, связанные с обработкой персональных данных физических лиц, за исключением случаев, прямо предусмотренных настоящим Федеральным законом.
3. Положения настоящего Федерального закона не распространяются на отношения, связанные с созданием и использованием систем искусственного интеллекта для целей обороны и безопасности государства, в рамках контрразведывательной и разведывательной деятельности, в оперативно-розыскной деятельности, а также деятельности, связанной с государственной и служебной тайной.
4. Положения настоящего Федерального закона распространяются на деятельность иностранных производителей и операторов систем искусственного интеллекта в случае, если пользователи таких систем искусственного интеллекта находятся на территории Российской Федерации или являются гражданами Российской Федерации.
5. Законодательство Российской Федерации о безопасном использовании систем искусственного интеллекта основывается на Конституции Российской Федерации, состоит из настоящего Федерального закона, иных федеральных законов и принимаемых в соответствии с ними подзаконных нормативных правовых актов.
Статья 2. Основные понятия, используемые в настоящем Федеральном законе
В настоящем Федеральном законе используются следующие основные понятия:
1) искусственный интеллект – технология, обеспечивающая автоматизацию обработки и генерации информации, анализа данных, поиска и автономного принятия решений в различных областях деятельности, а также совокупность знаний и методов, содержащих теоретические и практические основы создания, функционирования, развития и регулирования таких технологий;
2) система искусственного интеллекта – информационная система, созданная на основе искусственного интеллекта, способная обеспечивать имитацию принятия решений и (или) действий человека, включая создание за него информации вне зависимости от форм еe представления;
3) доверенная система искусственного интеллекта – система искусственного интеллекта, зарегистрированная в реестре доверенных систем искусственного интеллекта в соответствии с настоящим Федеральным законом;
4) система искусственного интеллекта в сфере массового обслуживания – система искусственного интеллекта, осуществляющая или автоматизирующая массовые коммуникации в сферах продажи товаров и (или) оказания услуг, определяемых по критериям, установленным Правительством Российской Федерации;
5) синтетическая имитация (дипфейк) – результат функционирования системы искусственного интеллекта, являющийся недостоверным в соответствии с Федеральным законом «Об информации, информационных технологиях и о защите информации» от 27.07.2006 № 149-ФЗ;
6) оператор системы искусственного интеллекта – лицо, организующее деятельность по эксплуатации системы искусственного интеллекта и определяющее порядок еe использования;
7) пользователь системы искусственного интеллекта – лицо, использующее систему искусственного интеллекта доступным ему образом;
8) производитель системы искусственного интеллекта – лицо, осуществляющее или организующее создание системы искусственного интеллекта, включая разработку, обучение и тестирование системы искусственного интеллекта;
9) результаты функционирования системы искусственного интеллекта – информация, независимо от формы еe представления (в том числе текст, фото-, видеоизображения, звук и иные объекты), вычисленная системой искусственного интеллекта, а также действия, выполняемые и (или) обеспечиваемые системой искусственного интеллекта;
10) уведомляющий идентификатор – графическое, текстовое или иное видимое и машиночитаемое цифровое обозначение результатов функционирования систем искусственного интеллекта;
11) машинное обучение – процесс обработки данных (включая генерацию и анализ данных) в системе искусственного интеллекта и (или) программном обеспечении в ее составе с участием или без участия человека, который может включать в себя составление баз данных, формирование алгоритмов и взаимосвязей между ними;
12) обучающий набор данных – совокупность данных, прошедших предварительную подготовку (обработку) и используемых для разработки и функционирования систем искусственного интеллекта;
13) уполномоченный государственный орган в сфере искусственного интеллекта – федеральный орган исполнительной власти, осуществляющий функции по выработке и реализации государственной политики и нормативно-правовому регулированию в сфере использования искусственного интеллекта, функции по контролю (надзору) за соответствием характеристик систем искусственного интеллекта требованиям законодательства Российской Федерации, а также осуществляющий иные полномочия в соответствии с настоящим Федеральным законом;
14) жизненный цикл системы искусственного интеллекта – последовательные этапы существования системы искусственного интеллекта, включающие еe создание (разработку), введение в оборот, эксплуатацию и вывод из использования;
15) лицо, осуществляющее финансирование исследований в сфере искусственного интеллекта и разработок систем искусственного интеллекта – лицо, предоставляющее финансовые средства для проведения исследований в сфере искусственного интеллекта или создания систем искусственного интеллекта и обладающее в силу условий финансирования возможностью влиять на цели, методы или результаты такой деятельности.
Статья 3. Цели и задачи правового регулирования общественных отношений в сфере использования систем искусственного интеллекта
1. Правовое регулирование отношений в сфере создания и использования систем искусственного интеллекта направлено на формирование актуальной и комплексной правовой системы, обеспечивающей наивысший доступный уровень защиты прав и законных интересов личности, а также поддержание общественного порядка и обеспечение безопасности государства при создании и использовании систем искусственного интеллекта.
2. Создание и использование систем искусственного интеллекта осуществляется на территории Российской Федерации с учетом необходимости оценки функций и сфер применения систем искусственного интеллекта, рисков причинения вреда, масштаба возможных последствий, степени автономности систем искусственного интеллекта, правового режима сведений, включенных в обучающий набор данных для целей машинного обучения.
3. Основными целями и задачами государственной политики в сфере использования систем искусственного интеллекта являются:
1) укрепление суверенитета Российской Федерации;
2) укрепление национальной безопасности Российской Федерации;
3) защита интересов Российской Федерации и общественных интересов в информационном пространстве, включая защиту российских традиционных духовно-нравственных ценностей;
4) укрепление гарантий соблюдения и защиты конституционных прав и свобод граждан Российской Федерации в информационном пространстве, разрешение возможных конфликтов интересов между производителями, операторами и пользователями систем искусственного интеллекта;
5) защита прав и интересов несовершеннолетних;
6) создание правовых основ и условий для безопасного использования систем искусственного интеллекта в Российской Федерации;
7) создание новых средств противодействия киберпреступности и иной противоправной деятельности с использованием систем искусственного интеллекта в Российской Федерации;
8) разработка мер государственной поддержки российских производителей доверенных систем искусственного интеллекта в целях развития инновационной отрасли и обеспечения технологического суверенитета Российской Федерации;
9) обеспечение согласованности российского законодательства с признанными международными правовыми стандартами и содействие международному сотрудничеству в регулировании систем искусственного интеллекта;
10) установление правил безопасного использования систем искусственного интеллекта в Российской Федерации и развитие технического регулирования в сфере искусственного интеллекта.
4. Государственные органы Российской Федерации в пределах своей компетенции осуществляют полномочия, направленные на обеспечение безопасного использования систем искусственного интеллекта, включая:
1) осуществление государственного контроля (надзора) и мониторинга в области использования систем искусственного интеллекта;
2) установление порядка реагирования на выявленные угрозы или инциденты, связанные с использованием систем искусственного интеллекта;
3) организацию межведомственного взаимодействия по вопросам предупреждения и минимизации рисков, возникающих при использовании систем искусственного интеллекта;
4) контроль за использованием систем искусственного интеллекта в Российской Федерации на протяжении всего их жизненного цикла, включая установление ограничений при их разработке, купле-продаже, подписке, использовании, внедрении, импорте и экспорте;
5) осуществление прогнозирования и стратегического планирования в сфере развития искусственного интеллекта, в том числе систем искусственного интеллекта и их использования, определение ключевых направлений развития искусственного интеллекта в Российской Федерации;
6) создание и приоритетное использование государственных систем искусственного интеллекта.
5. Федеральными законами могут быть установлены условия создания, использования и поддержки развития определенных государственных систем искусственного интеллекта и (или) иных систем искусственного интеллекта, обеспечивающих суверенитет, укрепление национальной безопасности и имеющих стратегическое значение для Российской Федерации.
6. Нормативные правовые акты федеральных органов исполнительной власти, принимаемые на основании и во исполнение настоящего федерального закона и иных федеральных законов, подлежат обязательному согласованию с уполномоченным государственным органом в сфере искусственного интеллекта.
Статья 4. Федеральный государственный контроль (надзор) за безопасным использованием систем искусственного интеллекта
1. Федеральный государственный контроль (надзор) за соблюдением требований по безопасному использованию систем искусственного интеллекта осуществляется уполномоченным государственным органом в сфере искусственного интеллекта в порядке, установленном Правительством Российской Федерации.
2. Предметом федерального государственного контроля (надзора) в сфере безопасного использования систем искусственного интеллекта является соблюдение участниками отношений в сфере искусственного интеллекта обязательных требований, установленных настоящим Федеральным законом и принимаемыми в соответствии с ним федеральными нормативными правовыми актами Российской Федерации.
3. В предмет федерального государственного контроля (надзора) за соблюдением требований по созданию и использованию систем искусственного интеллекта не входят обязанности по контролю и надзору за соответствием порядка обработки персональных данных требованиям законодательства Российской Федерации в области персональных данных, если такая обработка осуществляется непосредственно в информационных системах и базах данных систем искусственного интеллекта.
4. Уполномоченный государственный орган в сфере искусственного интеллекта:
1) осуществляет ведение реестра доверенных систем искусственного интеллекта, используемых в Российской Федерации в порядке, установленном Правительством Российской Федерации;
2) осуществляет ведение перечня запрещенных систем искусственного интеллекта в Российской Федерации в порядке, установленном Правительством Российской Федерации;
3) координирует деятельность органов государственной власти и местного самоуправления по использованию систем искусственного интеллекта в государственных информационных системах;
4) обеспечивает информирование органов государственной власти и (или) общественности о выявленных нарушениях, создающих угрозы безопасности правам и свободам человека и государственного суверенитета Российской Федерации, включая создание и распространение систем искусственного интеллекта, целенаправленно ориентированных на создание синтетических имитаций (дипфейков);
5) участвует через представителей в рассмотрении случаев причинения вреда жизни, здоровью или имуществу человека либо имуществу юридического лица при реализации экспериментального правового режима в результате использования информационных систем, разработанных с применением искусственного интеллекта в соответствии с положениями статьи 18.1 Федерального закона от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых и технологических инноваций в Российской Федерации»;
6) осуществляет профилактику правонарушений в сфере использования систем искусственного интеллекта, в том числе посредством разъяснительной работы, издания методических рекомендаций и консультирования заинтересованных лиц;
7) координирует деятельность по разработке стандартов и технических регламентов в сфере безопасного использования систем искусственного интеллекта;
8) устанавливает правила и порядок использования систем искусственного интеллекта, включая доверенные системы искусственного интеллекта, в деятельности органов государственной власти и органов местного самоуправления, а также порядок реализации физическим лицом права на отказ от взаимодействия с системой искусственного интеллекта при осуществлении деятельности указанными органами;
9) устанавливает правила по эксплуатации объектов информационной инфраструктуры и центров обработки данных, размещенных на территории Российской Федерации и используемых для обеспечения функционирования систем искусственного интеллекта в порядке, определяемом Правительством Российской Федерации.
5. Иные полномочия государственного органа в сфере искусственного интеллекта, в том числе связанные с разработкой и утверждением особенностей взаимодействия субъектов правоотношений в сфере искусственного интеллекта, порядком реагирования на жалобы пользователей систем искусственного интеллекта, порядком ограничения доступа к запрещенным системам искусственного интеллекта, а также особенностей создания и использования систем искусственного интеллекта, определяются и утверждаются Правительством Российской Федерации.
6. Нормативные правовые акты федеральных органов исполнительной власти, принимаемые на основании и во исполнение настоящего Федерального закона, подлежат обязательному согласованию с уполномоченным государственным органом в сфере искусственного интеллекта.
Статья 5. Законность при использовании систем искусственного интеллекта
1. Использование систем искусственного интеллекта должно осуществляться в соответствии с требованиями, предусмотренными настоящим Федеральным законом, нормативными правовыми актами в сфере безопасного использования систем искусственного интеллекта и иным федеральным законодательством Российской Федерации.
2. Не допускается использование систем искусственного интеллекта в целях, противоречащих законодательству Российской Федерации, в том числе для совершения преступлений, нарушения прав и законных интересов граждан и юридических лиц, нарушения и (или) создания угроз для национальной безопасности, государственного и общественного порядка, распространения запрещeнной информации и совершения иных противоправных действий.
3. Лица, участвующие в общественных отношениях по созданию и использованию систем искусственного интеллекта, обязаны принимать необходимые меры по предотвращению использования систем искусственного интеллекта в противоправных целях.
Статья 6. Защита прав и свобод лиц в сфере искусственного интеллекта
1. Использование систем искусственного интеллекта на любом этапе их жизненного цикла не должно нарушать конституционные права и свободы граждан.
2. Каждый человек имеет право на уважение его чести и достоинства при взаимодействии с системами искусственного интеллекта.
3. Использование систем искусственного интеллекта не должно приводить к дискриминации человека на основании национальности, пола, возраста, вероисповедания, убеждений, состояния здоровья, уровня знаний об искусственном интеллекте, в том числе о системах искусственного интеллекта, социального или материального положения.
4. Использование систем искусственного интеллекта не должно приводить к дискриминации физических лиц в связи с их принадлежностью к отдельным социальным группам.
5. Не допускается использование синтетических имитаций (дипфейков), включая предоставление, распространение или организацию доступа к ним. Правила, по которым изображение, видеозапись и (или) запись голоса гражданина (физического лица), созданные с помощью информационных технологий, признаются синтетической имитацией (дипфейком), устанавливаются Федеральным законом от 27 июля 2006 года № 149-ФЗ «Об информации, информационных технологиях и о защите информации».
6. Не допускается создание и (или) использование систем искусственного интеллекта для умышленного искажения и (или) фальсификации истории России. Не допускается создание и (или) использование систем искусственного интеллекта для умышленного создания и распространения материалов, дискредитирующих традиционные российские духовно-нравственные ценности и (или) пропагандирующие их отрицание.
7. Не допускается принуждение физических лиц к использованию систем искусственного интеллекта в социальной сфере, в сфере массового обслуживания и при взаимодействии с органами государственной власти и местного самоуправления. Любое взаимодействие физических лиц с системами искусственного интеллекта должно быть добровольным и информированным.
8. Физические лица, представители некоммерческих организаций и их органы имеют право знать об использовании систем искусственного интеллекта при принятии решений, порождающих юридически значимые последствия для таких лиц или иным образом затрагивающих их права и законные интересы.
9. Любые решения, порождающие юридически значимые последствия для пользователя системы искусственного интеллекта или иным образом затрагивающие его права и законные интересы, не могут быть приняты исключительно автоматизированным образом с использованием системы искусственного интеллекта.
10. Физические лица, в отношении которых принимались юридически значимые решения с использованием системы искусственного интеллекта, имеют право на пересмотр указанных решений без использования систем искусственного интеллекта и без дополнительной оплаты, связанной с их пересмотром.
11. Лица, осуществляющие продажу товаров и (или) оказание услуг с использованием системы искусственного интеллекта, при неисполнении или ненадлежащем исполнении ими обязательств перед пользователями информационных систем обязаны предоставить пользователям информационных систем право взаимодействия с ними без использования систем искусственного интеллекта.
12. При создании и использовании систем искусственного интеллекта осуществляется их классификация в качестве информационной продукции по возрастным категориям, установленным Федеральным законом от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию».
13. Использование систем искусственного интеллекта должно соответствовать Федеральному закону от 24.07.1998 № 124-ФЗ «Об основных гарантиях прав ребенка в Российской Федерации» и не должно приводить к нарушению прав и интересов несовершеннолетних.
Статья 7. Использование систем искусственного интеллекта в социальной сфере и сфере массового обслуживания
1. В сфере массового обслуживания, а также в социальной сфере, к которой в целях настоящего Федерального закона относятся образование, здравоохранение, социальная защита, опека и попечительство, занятость населения, физическая культура и спорт, охрана окружающей среды, не допускается создание условий по организации использования и (или) использование систем искусственного интеллекта, не являющихся доверенными.
2. Использование систем искусственного интеллекта в социальной сфере допускается при условии соблюдения требований настоящего Федерального закона, включая требование о внесении системы искусственного интеллекта в реестр доверенных систем искусственного интеллекта.
3. Использование систем искусственного интеллекта в социальной сфере не должно приводить к автономному принятию решений, порождающих юридически значимые последствия в отношении гражданина.
Статья 8. Использование систем искусственного интеллекта в деятельности органов государственной власти и местного самоуправления
1. Использование систем искусственного интеллекта должно соответствовать задачам и полномочиям органов государственной власти и местного самоуправления и осуществляться в целях повышения эффективности и качества принимаемых ими решений.
2. Использование систем искусственного интеллекта в деятельности органов государственной власти и местного самоуправления допускается при условии соблюдения требований настоящего Федерального закона, включая требование о внесении системы искусственного интеллекта в реестр доверенных систем искусственного интеллекта.
3. Использование систем искусственного интеллекта в деятельности государственных органов и органов местного самоуправления осуществляется на принципах открытости и доступности информации о таком использовании с указанием факта применения искусственного интеллекта. Не допускается использование систем искусственного интеллекта без предварительного информирования о таком использовании.
4. Использование систем искусственного интеллекта органами государственной власти и местного самоуправления не должно приводить к автономному принятию решений, порождающих юридически значимые последствия в отношении гражданина.
5. В деятельности органов государственной власти и местного самоуправления не допускается использование систем искусственного интеллекта в целях автономного формирования текстов проектов нормативных актов и официальных уведомлений без участия уполномоченных на такие действия лиц.
6. Правила использования систем искусственного интеллекта для целей формирования текстов проектов нормативных актов и официальных уведомлений, а также условия обязательного человеческого участия в таком формировании определяются уполномоченным государственным органом в сфере искусственного интеллекта.
7. Не допускается безальтернативное использование системы искусственного интеллекта при взаимодействии с гражданами, исключающее их свободу выбора на способ взаимодействия с органом государственной власти или местного самоуправления в соответствии со статьей 9 настоящего Федерального закона.
Статья 9. Согласие и отказ физического лица от использования систем искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и местного самоуправления
1. Любое использование систем искусственного интеллекта физическим лицом в социальной сфере и при взаимодействии с органами государственной власти и местного самоуправления осуществляется на основе его добровольного, осознанного и информированного предварительного согласия на взаимодействие с такими системами в порядке, определeнном настоящим Федеральным законом.
2. Согласие физического лица на взаимодействие с системами искусственного интеллекта должно быть:
1) явным и недвусмысленным;
2) предоставленным в письменной форме, форме электронного документа или иным позволяющим подтвердить факт его направления способом;
3) отзывным в любое время без объяснения причин и оплаты действий по совершению такого отзыва.
3. Физические лица имеют право на немотивированный отказ от использования систем искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и местного самоуправления. Отказ от использования систем искусственного интеллекта не может служить основанием для ограничения прав и законных интересов физических лиц.
4. Лица, осуществляющие деятельность в социальной сфере, а также органы государственной власти и местного самоуправления, обязаны обеспечить физическому лицу, отказавшемуся от использования системы искусственного интеллекта в отношении него, возможность получения необходимых услуг в форме и порядке, не предусматривающем использование системы искусственного интеллекта. Такой отказ не должен порождать для физического лица обязанности по оплате действий и (или) услуг иных лиц, вызванных таким отказом.
5. Порядок реализации права на отказ физического лица от использования систем искусственного интеллекта устанавливается Правительством Российской Федерации.
6. Операторы систем искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и местного самоуправления обязаны внедрять процедуры оперативного рассмотрения обращений физических лиц об отзыве согласия и отказе от использования систем искусственного интеллекта.
7. Требования к организации процедур обращений физических лиц об отзыве согласия и отказе от использования систем искусственного интеллекта устанавливаются уполномоченным государственным органом в сфере искусственного интеллекта.
8. Лица, являющиеся представителями некоммерческих организаций или входящие в состав их единоличных или коллегиальных органов, также имеют право на отказ от использования систем искусственного интеллекта, предусмотренный настоящей статьeй.
Статья 10. Доступность информации о функционировании систем искусственного интеллекта
1. Производители систем искусственного интеллекта обязаны реализовать на техническом уровне возможность внешней оценки корректности, надeжности и законности результатов функционирования систем искусственного интеллекта.
2. Состав хранимых сведений о функционировании системы искусственного интеллекта, условия доступа к ним и порядок их оценки устанавливаются уполномоченным органом государственной власти в сфере искусственного интеллекта.
3. Операторы доверенных систем искусственного интеллекта, используемых в социальной сфере и в деятельности органов государственной власти и местного самоуправления, обязаны обеспечить хранение на протяжении всего жизненного цикла системы искусственного интеллекта информации о еe функционировании в объeмах и на условиях, установленных уполномоченным государственным органом в сфере искусственного интеллекта.
Статья 11. Обеспечение достоверности результатов функционирования систем искусственного интеллекта
1. Результаты функционирования систем искусственного интеллекта не должны вводить в заблуждение об их достоверности пользователей систем искусственного интеллекта. Не допускается создание и использование недостоверных результатов функционирования систем искусственного интеллекта, за исключением случаев, прямо предусмотренных федеральными законами.
2. Производители и операторы систем искусственного интеллекта обязаны обеспечивать применение технических и организационных мер, направленных на исключение распространения и использования недостоверных результатов функционирования систем искусственного интеллекта.
3. Создание недостоверных результатов функционирования систем искусственного интеллекта допускается в целях их использования в креативных (творческих) индустриях при условии соблюдения требований по идентификации результатов функционирования систем искусственного интеллекта и к порядку использования синтетических имитаций (дипфейков).
Статья 12. Идентификация результатов функционирования систем искусственного интеллекта
1. Операторы и пользователи систем искусственного интеллекта, использующие системы искусственного интеллекта в целях взаимодействия с физическими лицами, должны наглядно и своевременно уведомлять физических лиц о факте взаимодействия с системами искусственного интеллекта.
2. Результаты функционирования систем искусственного интеллекта вне зависимости от их характера должны быть явным образом идентифицированы с указанием на использование систем искусственного интеллекта. Обязанность по идентификации указанных результатов возлагается на операторов систем искусственного интеллекта.
3. Идентификация результатов функционирования систем искусственного интеллекта, предназначенных для создания информационных материалов (текстовой, графической, аудио- и аудиовизуальной информации и информационной продукции), осуществляется путем присвоения им уведомляющих идентификаторов. Порядок присвоения уведомляющих идентификаторов устанавливается Правительством Российской Федерации.
4. Пользователям и операторам систем искусственного интеллекта, предназначенных для создания информационных материалов (текстовой, графической, аудио- и аудиовизуальной информации и информационной продукции), запрещается удалять и (или) модифицировать уведомляющие идентификаторы, за исключением случаев, если результаты функционирования систем искусственного интеллекта используются в рамках отношений, урегулированных законом Российской Федерации от 07.02.1992 № 2300-1 «О защите прав потребителей».
5. Производители систем искусственного интеллекта обязаны предусмотреть и реализовать техническую возможность присвоения уведомляющих идентификаторов в отношении результатов функционирования систем искусственного интеллекта в соответствии с требованиями федерального законодательства.
6. Лица, указанные в части 1 статьи 10.6 Федерального закона «Об информации, информационных технологиях и о защите информации» от 27.07.2006 № 149-ФЗ, обеспечивают проверку наличия уведомляющего идентификатора в составе распространяемого информационного материала, указанного в части 2 настоящей статьи. При выявлении факта отсутствия уведомляющего идентификатора в составе распространяемого информационного материала, являющегося результатом функционирования системы искусственного интеллекта, указанные лица размещают соответствующее информационное предупреждение или обеспечивают удаление такого информационного материала.
Статья 13. Права и обязанности производителей систем искусственного интеллекта
1. Производитель, а также лицо, осуществляющее финансирование исследований в сфере искусственного интеллекта и разработок систем искусственного интеллекта по договору с производителем систем искусственного интеллекта, если иное не предусмотрено федеральными законами, имеют право на:
1) доступ к обучающим наборам данных для машинного обучения систем искусственного интеллекта в порядке, предусмотренном настоящим Федеральным законом и принятыми в связи с ним нормативными правовыми актами;
2) предоставление государственных мер поддержки научной, научно-технической и инновационной деятельности в сфере искусственного интеллекта в порядке, определяемым Правительством Российской Федерации.
2. Производитель системы искусственного интеллекта обязан, если иное не предусмотрено настоящим Федеральным законом:
4) обеспечивать безопасность человека, общества и государства при создании и использовании систем искусственного интеллекта;
5) применять системный подход к управлению рисками на каждом этапе жизненного цикла систем искусственного интеллекта на постоянной основе с подтверждением соответствия требованиям, установленным Правительством Российской Федерации;
6) обеспечивать прозрачность и техническую возможность контроля процессов по созданию и использованию систем искусственного интеллекта, включая содержание обучающих наборов данных и результатов функционирования систем искусственного интеллекта в целях обеспечения возможности анализа результатов функционирования и предоставления надлежащих результатов по требованию уполномоченного государственного органа в сфере искусственного интеллекта;
7) соблюдать требования безопасности систем искусственного интеллекта, в том числе в случаях, когда защита от причинения вреда не может быть обеспечена исключительно соблюдением нормативных правовых актов; правила, обеспечивающие такую защиту, должны быть заложены в соответствующие программы для электронных вычислительных машин в составе информационных систем по умолчанию на протяжении всего жизненного цикла системы искусственного интеллекта;
8) обеспечить своевременное предупреждение пользователей и операторов систем искусственного интеллекта об известных уязвимостях и рисках использования системы искусственного интеллекта;
9) проводить оценку рисков своей деятельности, предусмотренную законодательством Российской Федерации;
10) организовать создание и (или) внедрение технических решений, обеспечивающих конфиденциальность и безопасность персональных данных, обрабатываемых с использованием системы искусственного интеллекта;
11) обеспечивать реализацию комплекса защитных мер, включая защиту личной информации, своевременного уведомления об обработке персональных данных, предоставления пользователю права на отказ от использования систем искусственного интеллекта в доступной форме;
12) обеспечивать при обучении систем искусственного интеллекта правомерное использование достоверных и объективных наборов данных, не допускающих нарушение требований настоящего Федерального закона и иных федеральных законов;
13) обеспечить формирование обучающих наборов данных с соблюдением законодательства Российской Федерации об информации ограниченного доступа;
14) обеспечить наличие технических средств ограничения доступа несовершеннолетних к использованию системы искусственного интеллекта в соответствии с возрастными категориями и в случаях, установленных Федеральным законом от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию».
3. Правительством Российской Федерации могут быть предусмотрены иные права и обязанности производителей систем искусственного интеллекта, если это не противоречит положениям настоящего Федерального закона.
4. Производитель системы искусственного интеллекта обязан исчерпывающим образом информировать оператора данной системы искусственного интеллекта обо всех характеристиках системы искусственного интеллекта.
5. Оператор системы искусственного интеллекта обязан заключить с производителем данной системы искусственного интеллекта соглашение об использовании системы искусственного интеллекта, определяющее правила использования такой системы с учeтом возможных рисков и технологических особенностей системы искусственного интеллекта. Требования к форме и содержанию указанного обязательного соглашения определяются Правительством Российской Федерации.
6. Лицо, осуществляющее финансирование исследований и разработок в сфере искусственного интеллекта по договору с производителем систем искусственного интеллекта, должно ответственно относиться к социальным, экономическим и иным рискам, которые могут возникнуть в результате внедрения систем искусственного интеллекта, и стремиться предотвращать любые связанные с ними негативные последствия.
Статья 14. Права и обязанности операторов систем искусственного интеллекта
1. При вводе в эксплуатацию системы искусственного интеллекта оператором такой системы, оператор системы искусственного интеллекта обязан осуществить предварительную проверку системы искусственного интеллекта на соответствие обязательным требованиям, установленным настоящим Федеральным законом.
2. Оператор систем искусственного интеллекта, если иное не предусмотрено настоящим Федеральным законом, обязан:
1) заключить с производителем системы искусственного интеллекта обязательное соглашение об использовании системы искусственного интеллекта;
2) обеспечивать защиту информации, содержащейся в информационной системе и базах данных системы искусственного интеллекта, посредством применения организационных и технических мер защиты информации, а также осуществления контроля за эксплуатацией системы искусственного интеллекта;
3) обеспечивать надлежащее функционирование систем искусственного интеллекта на всех этапах жизненного цикла, а также поддерживать у своих работников и контрагентов необходимый уровень знаний и компетенций, достаточный для целей такого обеспечения;
4) осуществлять тестирование, техническую проверку, а также обеспечивать техническую готовность систем искусственного интеллекта к надлежащему функционированию;
5) временно приостанавливать использование системы искусственного интеллекта в случае обнаружения неполадок в программе для электронных вычислительных машин и (или) программно-аппаратном комплексе, на основе которых функционирует система искусственного интеллекта, если такое использование может повлечь риски для прав и свобод человека и общественной безопасности;
6) вести техническую и иную документацию, предусмотренную настоящим Федеральным законом и принятыми в связи с ним нормативными правовыми актами, включая документирование, сохранность, регистрацию принятых системами искусственного интеллекта решений, а также всего процесса их принятия, включая описание сбора, маркировки данных и используемых алгоритмов;
7) назначать лиц, обладающих необходимой квалификацией для контроля за функционированием системы искусственного интеллекта;
8) предоставлять уполномоченным государственным органам по запросу все необходимые данные о системе искусственного интеллекта в порядке, установленном уполномоченным органом государственной власти в сфере искусственного интеллекта;
9) проводить идентификацию пользователей системы искусственного интеллекта в порядке, установленном уполномоченным государственным органом в сфере искусственного интеллекта;
10) создать, опубликовать и поддерживать в актуальном состоянии правила и иные документы, определяющие права и обязанности оператора и пользователей системы искусственного интеллекта в отношении порядка функционирования управляемой им системы искусственного интеллекта и соответствующие требованиям настоящего Федерального закона; указанные документы должны соответствовать условиям обязательного соглашения с производителем системы искусственного интеллекта об еe использовании; оператор также обязан опубликовать и поддерживать в актуальном состоянии соглашение об использовании системы искусственного интеллекта с производителем такой системы;
11) обеспечить надлежащее использование технических средств ограничения доступа несовершеннолетних к использованию системы искусственного интеллекта в соответствии с возрастными категориями, установленными Федеральным законом от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию».
3. Правительством Российской Федерации могут быть предусмотрены иные права и обязанности операторов систем искусственного интеллекта, если это не противоречит положениям настоящего Федерального закона.
4. Оператор системы искусственного интеллекта при получении запроса от пользователя системы искусственного интеллекта или его представителя, связанного с вопросами, входящими в круг обязанностей оператора системы искусственного интеллекта в соответствии с настоящим Федеральным законом, а также локальными нормативными актами оператора системы искусственного интеллекта, в течение десяти рабочих дней обязан дать мотивированный ответ относительно содержания запроса пользователя системы искусственного интеллекта или его представителя.
5. Оператор системы искусственного интеллекта, которому стало известно (в том числе в результате обращения пользователя) о несоответствии системы искусственного интеллекта требованиям настоящего Федерального закона, в течение разумного срока обязан сообщить об этом производителю системы искусственного интеллекта. В случае немотивированного отказа производителя искусственного интеллекта привести систему искусственного интеллекта в соответствие с требованиями настоящего Федерального закона, оператор в течение __ календарных дней обязан проинформировать о таком несоответствии уполномоченный государственный орган в сфере искусственного интеллекта.
Статья 15. Права и обязанности пользователей систем искусственного интеллекта
1. Пользователи системы искусственного интеллекта имеют право на:
1) использование системы искусственного интеллекта на условиях и в порядке, предусмотренных настоящим Федеральным законом, принятым федеральным законодательством и правилами использования системы искусственного интеллекта, установленными оператором системы искусственного интеллекта;
2) обращение в уполномоченный государственный орган в сфере искусственного интеллекта по вопросам, связанным с использованием систем искусственного интеллекта;
3) получение информации от оператора системы искусственного интеллекта о взаимодействии с системой искусственного интеллекта, еe характеристиках и правилах использования;
4) принятие обоснованных решений относительно использования системы искусственного интеллекта, а также на контроль за еe функционированием (в той мере, в какой это возможно с учeтом требуемой степени автономности);
5) получение достоверных сведений обо всех этапах процесса принятия решений с использованием системы искусственного интеллекта;
6) разработку механизмов отмены или изменения (уведомительных отмен) решений, принимаемых с использованием системы искусственного интеллекта, с идентификацией субъекта, ответственного за принятие решений;
7) возмещение вреда, причиненного системой искусственного интеллекта;
8) отказ от взаимодействия с системой искусственного интеллекта без дополнительных условий и оплаты в случаях и в порядке, предусмотренных настоящим Федеральным законом, федеральными законами и правилами использования системы искусственного интеллекта.
2. Пользователи систем искусственного интеллекта обязаны соблюдать настоящий Федеральный закон, принятые в связи с ним нормативные правовые акты и правила использования систем искусственного интеллекта, установленные операторами систем искусственного интеллекта.
3. Действия пользователей не должны быть направлены на умышленное нарушение прав и законных интересов третьих лиц.
4. Правительством Российской Федерации могут быть предусмотрены иные права и обязанности пользователей систем искусственного интеллекта, если это не противоречит положениям настоящего Федерального закона.
Статья 16. Системы искусственного интеллекта, запрещeнные к использованию в Российской Федерации
1. Системы искусственного интеллекта, которые соответствуют критериям запрещeнной системы искусственного интеллекта, не допускаются к использованию на территории Российской Федерации и не подлежат включению в реестр доверенных систем искусственного интеллекта.
2. Критериями для определения системы искусственного интеллекта в качестве запрещeнной являются:
1) умышленное создание и использование системы искусственного интеллекта в целях нарушения законодательства Российской Федерации;
2) наличие в системе искусственного интеллекта средств обхода требований настоящего Федерального закона, умышленно внедрeнных производителем такой системы искусственного интеллекта;
3) иные критерии, установленные Правительством Российской Федерации.
3. Основания и порядок включения систем искусственного интеллекта в перечень запрещeнных систем искусственного интеллекта устанавливаются Правительством Российской Федерации.
4. Контроль за соблюдением требований, предусмотренных настоящей статьeй, включая признание системы искусственного интеллекта запрещeнной, осуществляет уполномоченный государственный орган в сфере искусственного интеллекта в порядке, установленном Правительством Российской Федерации.
5. В целях надзора за соблюдением требований, предусмотренных настоящей статьeй, уполномоченный государственный орган в сфере искусственного интеллекта ведeт публичный перечень запрещeнных систем искусственного интеллекта в порядке, установленном Правительством Российской Федерации.
6. Использование запрещeнных на территории Российской Федерации систем искусственного интеллекта влечeт за собой ответственность в соответствии с законодательством Российской Федерации.
Статья 17. Реестр доверенных систем искусственного интеллекта
1. В целях обеспечения безопасного использования систем искусственного интеллекта государством и обществом, развития технологического суверенитета Российской Федерации, а также в целях оказания производителям систем искусственного интеллекта мер государственной поддержки создаeтся публичный государственный реестр доверенных систем искусственного интеллекта.
2. Условиями включения системы искусственного интеллекта в реестр доверенных систем искусственного интеллекта являются:
1) создание системы искусственного интеллекта в Российской Федерации в соответствии с требованиями, установленными настоящим Федеральным законом;
2) включение программ для электронных вычислительных машин и баз данных, входящих в состав системы искусственного интеллекта в Российской Федерации, в реестр российских программ для электронных вычислительных машин и баз данных в порядке, установленном Федеральным законом от 27 июля 2006 года №149-ФЗ «Об информации, информационных технологиях и о защите информации»;
3) доступ к техническим средствам создания системы искусственного интеллекта и информационным системам, в которых хранится исходный код программ для электронных вычислительных машин, используемых в системах искусственного интеллекта, контролируется их производителями таким образом, что иные лица не имеют технической возможности ограничить доступ к ним;
4) система искусственного интеллекта прошла экспертизу в порядке, установленном уполномоченным органом государственной власти в сфере искусственного интеллекта;
5) интерфейс и документация системы искусственного интеллекта выполнены на русском языке.
3. Правила формирования и ведения реестра доверенных систем искусственного интеллекта, состав сведений, включаемых в реестр доверенных систем искусственного интеллекта, прочие условия включения таких сведений в реестр доверенных систем искусственного интеллекта и исключения их из реестра доверенных систем искусственного интеллекта, порядок предоставления сведений, включаемых в реестр доверенных систем искусственного интеллекта, порядок принятия решения о включении таких сведений в реестр доверенных систем искусственного интеллекта устанавливаются Правительством Российской Федерации.
4. Ведение реестра доверенных систем искусственного интеллекта осуществляется уполномоченным государственным органом в порядке, установленном Правительством Российской Федерации.
5. Не допускается использование систем искусственного интеллекта, не включeнных в реестр доверенных систем искусственного интеллекта, государственными органами Российской Федерации и органами местного самоуправления, государственными учреждениями, государственными унитарными предприятиями, государственными фондами, государственными корпорациями (компаниями), иными российскими юридическими лицами, находящимся под контролем Российской Федерации и (или) субъекта Российской Федерации, и (или) муниципального органа, и (или) контролируемым ими совместно или по отдельности лицами.
6. При предоставлении мер государственной поддержки производители систем искусственного интеллекта, сведения о которых включены в реестр доверенных систем искусственного интеллекта, имеют преимущества перед производителями систем искусственного интеллекта, не включeнными в реестр доверенных систем искусственного интеллекта.
Статья 18. Требования к безопасности доверенных систем искусственного интеллекта
1. Создание и использование доверенных систем искусственного интеллекта в Российской Федерации допускается при условии соблюдения требований, предусмотренных настоящей статьeй.
2. Производитель доверенных систем искусственного интеллекта перед вводом в эксплуатацию системы искусственного интеллекта обеспечивает:
1) необходимый уровень устойчивости доверенной системы искусственного интеллекта к ошибкам, техническим сбоям, компьютерным атакам и иным способам несанкционированного физического и электронного доступа к их системам и механизмам, в том числе путeм использования организационных и технических мер безопасности, предусмотренных нормативными правовыми актами Федеральной службой безопасности Российской Федерации и Федеральной службой по техническому и экспортному контролю Российской Федерации;
2) определение угроз безопасности доверенной системы искусственного интеллекта и проведение оценки рисков безопасности жизни, здоровья, репутации, чести и достоинства человека, включая риски принятия дискриминационных решений, предоставления недостоверной информации, нарушения законодательства Российской Федерации;
3) документирование жизненного цикла доверенной системы искусственного интеллекта, включая процесс разработки, машинного обучения, эксплуатации и постоянного резервного хранения соответствующей информации;
4) наличие функции моментального и (или) аварийного прекращения функционирования доверенной системы искусственного интеллекта в любой момент по требованию уполномоченного государственного органа в сфере искусственного интеллекта или заинтересованного лица;
5) осуществление или организацию осуществления технического обслуживания доверенной системы искусственного интеллекта;
6) указание информации в доверенной системе искусственного интеллекта о производителе, включая наименование производителя, фактический адрес нахождения, адрес электронной почты и номер телефона.
3. Оператор доверенной системы искусственного интеллекта при организации использования такой системы обеспечивает:
1) необходимый уровень устойчивости доверенной системы искусственного интеллекта к компьютерным атакам и иным способам несанкционированного физического и электронного доступа к их системам и механизмам, в том числе путeм использования организационных и технических мер безопасности, предусмотренных нормативными правовыми актами Федеральной службой безопасности Российской Федерации и Федеральной службой по техническому и экспортному контролю Российской Федерации;
2) допуск к использованию доверенной системы искусственного интеллекта лиц, в обязательном порядке прошедших обучение по еe использованию;
3) контроль соблюдения организационных и технических мер безопасности, а также фиксацию ошибок, технических сбоев, компьютерных атак и (или) иных фактов несанкционированного доступа к доверенной системе искусственного интеллекта;
4) незамедлительное информирование уполномоченного государственного органа в сфере искусственного интеллекта, производителя доверенной системы искусственного интеллекта и (или) лица, обеспечивающего техническое обслуживание доверенной системы искусственного интеллекта, о произошедших ошибках, технических сбоях, компьютерных атаках и (или) иных фактах несанкционированного доступа к доверенной системе искусственного интеллекта;
4. К обучающим наборам данных и базам данных для машинного обучения доверенных систем искусственного интеллекта предъявляются повышенные требования к их качеству и безопасности, устанавливаемые уполномоченным государственным органом в сфере искусственного интеллекта по согласованию с уполномоченными органами государственной власти в сфере безопасности, включая требования к фиксированию информации о происхождении данных, оценки доступности, количества и качества данных, а также выявлению недостатков в данных, препятствующих реализации должного уровня безопасности доверенной системы искусственного интеллекта.
5. Производителем системы искусственного интеллекта до еe ввода в эксплуатацию должна быть подготовлена необходимая техническая документация, определяющая порядок безопасного использования системы искусственного интеллекта.
6. Если доверенная система искусственного интеллекта предусматривает функциональность принятия юридически значимых решений в отношении физического и (или) юридического лица, то производитель и оператор такой системы обязаны обеспечить возможность оспаривания и (или) отмены решений, принятых такой системой.
7. Обязательное документирование жизненного цикла доверенной системы искусственного интеллекта подразумевает автоматическую запись и хранение информации об условиях функционирования системы искусственного интеллекта и всех совершаемых такой системой действиях, как и о действиях пользователей. Документирование жизненного цикла обеспечивается на специализированном материальном носителе, обеспечивающем в том числе резервное копирование записанной информации.
8. В случаях, предусмотренных федеральным законодательством, сведения из средств документирования работы доверенной системы искусственного интеллекта должны быть предоставлены уполномоченным государственным органам, осуществляющим оперативно-розыскную деятельность или обеспечение безопасности Российской Федерации.
9. Для систем доверенного искусственного интеллекта обязательным является наличие технических инструкций по безопасному использованию, предоставляемых в электронном либо ином доступном формате. Технические инструкции должны включать четкую, корректную и исчерпывающую информацию, изложенную в доступной и понятной форме. Правила оформления технических инструкций устанавливаются Правительством Российской Федерации.
Статья 19. Саморегулирование в сфере искусственного интеллекта
1. В целях совершенствования этического регулирования, предупреждения причинения вреда жизни или здоровью физических лиц, имуществу физических или юридических лиц, государственному или муниципальному имуществу, а также в целях защиты прав и законных интересов личности, общества и государства при использовании систем искусственного интеллекта могут создаваться саморегулируемые организации производителей или операторов систем искусственного интеллекта.
2. Под саморегулированием понимается самостоятельная и инициативная деятельность, которая осуществляется субъектами предпринимательской или профессиональной деятельности и содержанием которой являются разработка и установление стандартов и правил деятельности в сфере искусственного интеллекта, а также контроль за соблюдением требований указанных стандартов и правил.
3. Статус саморегулируемой организации может приобрести некоммерческая организация при условии еe соответствия требованиям, установленным настоящим Федеральным законом.
4. Организация приобретает статус саморегулируемой организации в сфере искусственного интеллекта со дня внесения сведений о ней в государственный реестр саморегулируемых организаций в сфере искусственного интеллекта и утрачивает такой статус со дня исключения сведений о ней из указанного реестра. Ведение государственного реестра саморегулируемых организаций в сфере искусственного интеллекта осуществляется федеральным органом исполнительной власти, уполномоченным Правительством Российской Федерации.
5. Саморегулируемая организация в сфере искусственного интеллекта включается в государственный реестр саморегулируемых организаций в сфере искусственного интеллекта при условии ее соответствия следующим требованиям:
1) объединение в составе саморегулируемой организации в сфере искусственного интеллекта в качестве еe членов не менее __ физических или юридических лиц, осуществляющих деятельность производителя системы искусственного интеллекта и (или) оператора системы искусственного интеллекта;
2) наличие утверждeнного порядка осуществления контроля за качеством работы членов саморегулируемой организации в сфере искусственного интеллекта и принятого кодекса профессиональной этики в сфере искусственного интеллекта;
3) соответствие саморегулируемой организации требованиям, предусмотренным Федеральным законом от 1 декабря 2007 года № 315-ФЗ «О саморегулируемых организациях».
6. Допускается объединение в составе одной саморегулируемой организации в сфере искусственного интеллекта одновременно производителей систем искусственного интеллекта и операторов систем искусственного интеллекта.
7. Для осуществления деятельности в качестве саморегулируемой организации в сфере искусственного интеллекта в указанной организации должны быть созданы специализированные органы, осуществляющие контроль за соблюдением членами саморегулируемой организации в сфере искусственного интеллекта требований настоящего Федерального закона, иных нормативных правовых актов Российской Федерации, стандартов и правил саморегулируемой организации в сфере искусственного интеллекта, условий членства в саморегулируемой организации в сфере искусственного интеллекта, а также рассмотрение дел о применении в отношении членов саморегулируемой организации в сфере искусственного интеллекта мер дисциплинарного воздействия.
8. Производитель или оператор системы искусственного интеллекта могут быть членами только одной саморегулируемой организации в сфере искусственного интеллекта. Саморегулируемая организация в сфере искусственного интеллекта не может являться членом другой саморегулируемой организации в сфере искусственного интеллекта.
9. Саморегулируемая организация в сфере искусственного интеллекта при приeме в свои члены производителей или операторов систем искусственного интеллекта вправе предъявлять к ним дополнительные требования, связанные с осуществлением деятельности в сфере искусственного интеллекта и не противоречащие настоящему Федеральному закону, другим федеральным законам.
10. Члены постоянно действующего коллегиального органа управления и специализированных органов саморегулируемой организации в сфере искусственного интеллекта могут совмещать исполнение функций членов этих органов с деятельностью в сфере искусственного интеллекта.
Статья 20. Страхование гражданской ответственности производителей и операторов систем искусственного интеллекта
1. Производители и операторы доверенных систем искусственного интеллекта обязаны на условиях и в порядке, которые установлены настоящим Федеральным законом и иными федеральными законами, страховать риск своей гражданской ответственности, которая может наступить вследствие причинения вреда жизни, здоровью или имуществу лиц при использовании систем искусственного интеллекта.
2. Обязанность по страхованию гражданской ответственности не распространяется на производителя и оператора доверенной системы искусственного интеллекта, риск ответственности которого застрахован в соответствии с настоящим Федеральным законом иным лицом (страхователем).
3. Правительство Российской Федерации вправе устанавливать дополнительные критерии систем искусственного интеллекта, на производителей и операторов которых распространяются обязательные требования по страхованию гражданской ответственности.
4. Особенности страхования гражданской ответственности производителей и операторов систем искусственного интеллекта устанавливаются федеральным законодательством.
5. Пользователи систем искусственного интеллекта вправе заключить договор имущественного или личного страхования в связи с использованием систем искусственного интеллекта в порядке, предусмотренном российским гражданским законодательством.
Статья 21. Общие положения об ответственности за нарушения в сфере искусственного интеллекта
1. Нарушение требований настоящего Федерального закона влечет за собой дисциплинарную, гражданско-правовую, административную или уголовную ответственность в соответствии с федеральным законодательством Российской Федерации.
2. Лица, права и законные интересы которых были нарушены в связи с использованием систем искусственного интеллекта, а также использованием результатов функционирования систем искусственного интеллекта, вправе обратиться в установленном порядке за судебной защитой своих прав, в том числе с исками в суд о возмещении убытков, компенсации морального вреда, защите чести, достоинства и деловой репутации.
3. Требование о возмещении убытков не может быть удовлетворено в случае предъявления его лицом, не соблюдавшим установленные производителем системы искусственного интеллекта требования по безопасности, использовавшим систему искусственного интеллекта заведомо неправомерным путем и (или) если такие убытки были вызваны грубой неосторожностью такого лица при использовании системы искусственного интеллекта.
4. Производитель и (или) оператор системы искусственного интеллекта не несeт гражданско-правовую ответственность за нарушение требований настоящего Федерального закона при одновременном соблюдении следующих условий:
1) производитель и (или) оператор системы искусственного интеллекта докажет, что вред причинен не по его вине;
2) при создании и (или) использовании системы искусственного интеллекта производителем и (или) оператором соблюдаются требования настоящего Федерального закона.
Статья 22. Особенности ответственности производителя и оператора системы искусственного интеллекта
1. В случае, если в результате неисполнения оператором системы искусственного интеллекта требований по безопасной эксплуатации системы искусственного интеллекта был причинeн вред жизни или здоровью граждан, имуществу физических или юридических лиц, государственному или муниципальному имуществу, живой природе, окружающей среде, оператор системы искусственного интеллекта обязан возместить причинeнный вред и принять меры в целях недопущения дальнейшего причинения вреда другим лицам, их имуществу, живой природе, окружающей среде в соответствии с законодательством Российской Федерации.
2. При использовании системы искусственного интеллекта обязанность возместить вред не может быть ограничена договором или заявлением участника отношений в сфере искусственного интеллекта. Не допускаются соглашения или заявления об ограничении ответственности в сфере использования систем искусственного интеллекта.
3. В случае соответствия действий оператора всем требованиям, предусмотренным для него настоящим Федеральным законом, оператор системы искусственного интеллекта не обязан доказывать наличие в его действиях должной степени осмотрительности.
4. Производитель системы искусственного интеллекта освобождается от ответственности за причинeнный вред, если докажет, что вред был причинeн по одной из следующих причин:
1) в результате возникновения обстоятельств непреодолимой силы, которые не могли быть предусмотрены производителем как профессиональным участником рынка;
2) вследствие умышленных незаконных действий оператора системы искусственного интеллекта и (или) пользователя системы искусственного интеллекта;
3) вследствие использования системы искусственного интеллекта в целях и условиях, прямо запрещeнных технической документацией системы искусственного интеллекта.
5. В случае установления факта неоднократного несоблюдения производителем систем искусственного интеллекта требований безопасности, предусмотренных настоящим Федеральным законом, Генеральный прокурор Российской Федерации или его заместители обращаются в уполномоченный государственный орган в сфере искусственного интеллекта с требованием о принятии мер по запрещению использования такой системы искусственного интеллекта на территории Российской Федерации.
Статья 23. Особенности ответственности пользователя систем искусственного интеллекта
1. Пользователь системы искусственного интеллекта несeт ответственность за негативные последствия применения системы искусственного интеллекта, если его действия по использованию системы искусственного интеллекта носили преднамеренно недобросовестный или противоправный характер.
2. Противоправными действиями пользователя системы искусственного интеллекта считаются действия, направленные на модификацию программного обеспечения в составе системы искусственного интеллекта, несоблюдение требований соглашения об использовании системы искусственного интеллекта и эксплуатация системы искусственного интеллекта способами, запрещeнными в документации системы.
3. Пользователь системы искусственного интеллекта освобождается от гражданско-правовой ответственности, если будет доказано, что оператор не предоставил ему возможности ознакомиться с правилами использования системы искусственного интеллекта.
4. Пользователь системы искусственного интеллекта освобождается от ответственности за причинение вреда, если вред причинeн в результате непредвиденной ошибки или функции системы искусственного интеллекта, которую невозможно было выявить и предотвратить при нормальной эксплуатации.
Статья 24. Особенности ответственности лиц, формирующих обучающие наборы данных для доверенных систем искусственного интеллекта, и лиц, осуществляющих финансирование исследований и разработок в сфере искусственного интеллекта
1. Лица, формирующие обучающие наборы данных для доверенных систем искусственного интеллекта, обязаны приложить все возможные усилия для обеспечения достоверности, актуальности и законности включаемых в них сведений.
2. В отношении доверенных систем искусственного интеллекта лица, формирующие обучающие наборы данных, обязаны хранить полные сведения об источниках данных и обеспечивать возможность их независимой проверки.
3. Лица, формирующие обучающие наборы данных доверенных систем искусственного интеллекта, несут ответственность за ущерб, причинeнный в результате целенаправленного включения или осведомлeнности о включении в обучающие наборы заведомо недостоверной информации, сведений, используемых незаконно, а также данных, сбор и обработка которых нарушает законодательство Российской Федерации.
4. Лица, осуществляющие финансирование исследований и разработок в сфере искусственного интеллекта, несут ответственность за несоблюдение части 6 статьи 13 настоящего Федерального закона.
Статья 25. Иск о запрете использования системы искусственного интеллекта
1. Выявление риска причинения вреда системой искусственного интеллекта и (или) установление факта причинения вреда могут являться основанием для подачи иска в суд о запрете использования системы искусственного интеллекта путeм внесения сведений о ней в перечень систем искусственного интеллекта, использование которых на территории Российской Федерации запрещено.
2. Суд может отказать в удовлетворении иска о запрете использования системы искусственного интеллекта, если такой запрет противоречит общественным интересам. Отказ в запрете использования системы искусственного интеллекта не лишает потерпевших лиц права на возмещение причинeнного такой системой искусственного интеллекта вреда.
Статья 26. Обеспечение совершенствования законодательства в сфере искусственного интеллекта
1. Законодательство в сфере безопасного использования систем искусственного интеллекта подлежит обязательному систематическому мониторингу, контролю и обновлению с целью обеспечения его соответствия меняющимся общественным отношениям и технологическому прогрессу в данной сфере.
2. Для реализации положений настоящей статьи устанавливается процедура периодической специализированной экспертизы законодательства в сфере искусственного интеллекта, осуществляемой специальной межведомственной комиссией, сформированной в порядке, установленном Правительством Российской Федерации. Комиссия осуществляет комплексный анализ эффективного применения законодательства в сфере искусственного интеллекта и его соответствия практике создания и использования систем искусственного интеллекта и не реже, чем один раз в год выносит одно из следующих решений:
1) о соответствии действующего законодательства современной практике создания и использования систем искусственного интеллекта;
2) о несоответствии действующего законодательства современной практике создания и использования систем искусственного интеллекта и о необходимости внесения изменений в законодательство в сфере искусственного интеллекта.
3. В течение 180 календарных дней со дня вынесения решения, предусмотренного частью 2 настоящей статьи, Правительство Российской Федерации формирует и вносит в Государственную Думу Российской Федерации законодательную инициативу, направленную на актуализацию правового регулирования в сфере искусственного интеллекта. Законодательная инициатива должна предполагать внесение изменений в настоящий Федеральный закон либо содержать проект нового федерального закона, направленного на регулирование общественных отношений, возникающих при создании и использовании систем искусственного интеллекта.
Статья 27. Заключительные и переходные положения
1. Настоящий Федеральный закон вступает в силу с 1 января 2027 года, за исключением статей 9 и 12, которые вступают в силу с 1 января 2028 года.
2. Производители и операторы систем искусственного интеллекта, за исключением указанных в части 3 настоящей статьи, которые были введены в эксплуатацию до дня вступления в силу настоящего Федерального закона и продолжают такую эксплуатацию после дня его вступления в силу, обязаны в течение 90 дней после вступления в силу настоящего Федерального закона уведомить уполномоченный государственный орган в сфере искусственного интеллекта об эксплуатации таких систем искусственного интеллекта в порядке, установленном Правительством Российской Федерации, и привести их использование в соответствие с обязательными требованиями, установленными настоящим Федеральным законом и принимаемыми в соответствии с ним федеральными нормативными правовыми актами Российской Федерации не позднее с 1 января 2028 года.
3. Производители и операторы систем искусственного интеллекта, предназначенных для использования органами государственной власти и местного самоуправления, которые были введены в эксплуатацию до дня вступления в силу настоящего Федерального закона и продолжают такую эксплуатацию после дня его вступления в силу, обязаны в течение 90 дней после вступления в силу настоящего Федерального закона уведомить уполномоченный государственный орган в сфере искусственного интеллекта об эксплуатации таких систем искусственного интеллекта в порядке, установленном Правительством Российской Федерации, и привести их использование в соответствие с обязательными требованиями, установленными настоящим Федеральным законом и принимаемыми в соответствии с ним федеральными нормативными правовыми актами Российской Федерации не позднее с 1 января 2030 года.
4. Части 2 и 3 настоящей статьи не распространяются на производителей и операторов систем искусственного интеллекта, которые были введены в эксплуатацию до дня вступления в силу настоящего Федерального закона, не уведомивших уполномоченный государственный орган в сфере искусственного интеллекта об эксплуатации таких систем искусственного интеллекта либо предоставивших неполную и (или) недостоверную информацию о таких системах искусственного интеллекта и их эксплуатации.
Президент
Российской Федерации
В.В. ПУТИН
Москва, Кремль
дата
номер ФЗ
[1] Сенатор Совета Федерации Федерального Собрания Российской Федерации.
[2] Президент АО «Крибрум».
[3] Экс-генеральный директор Центра ИИ МТС, экс-вице-президент ВК по искусственному интеллекту.
[4] Президент группы компаний InfoWatch.
[5] Главный научный сотрудник Института государства и права РАН, профессор Московского государственного юридического университета имени О.Е. Кутафина (МГЮА).
[6] Прим.: авторы проекта исходят из той гипотезы, что будут приняты поправки к 149-ФЗ в части добавления в закон, в т.ч., статьи 10.8 «Ограничение использования недостоверного изображения, видеозаписи и записи голоса гражданина (физического лица)».
Получить бесплатный пробный доступ к КонсультантПлюс.