
Что регулирует закон
Законопроект распространяется на всех участников — от разработчиков моделей до конечных пользователей сервисов. Исключения: сферы обороны, национальной безопасности и охраны правопорядка, которые регулируются отдельными актами.
Документ закрепляет понятийный аппарат: даны определения искусственного интеллекта, модели ИИ, системы ИИ, сервиса ИИ, больших фундаментальных моделей, доверенных моделей и других ключевых терминов.
Отдельно введено понятие «эксплуатация уязвимостей человека» — использование возрастных, психологических, когнитивных и иных особенностей людей для целенаправленного воздействия на их поведение и решения, причиняющего вред или способного его причинить.
Принципы и ценности
В основу регулирования авторы проекта заложили пропорциональность: требования к ИИ-технологиям зависят от их назначения, степени автономности, влияния на принятие юридически значимых решений, категории обрабатываемых данных, а также от вероятности и масштаба возможного вреда.
Среди других базовых принципов — верховенство прав и свобод человека, уважение свободы воли, обеспечение технологической независимости, безопасность, а также учет традиционных российских духовно-нравственных ценностей, включая патриотизм, крепкую семью и коллективизм.
Доверенные модели
Одно главных нововведений — институт доверенных моделей ИИ. К применению в государственных информационных системах и на объектах критической информационной инфраструктуры допускаются только модели, включенные в специальный реестр.
Чтобы попасть в реестр модель должна:
- пройти подтверждение соответствия требованиям безопасности (проверку проводят ФСТЭК и ФСБ);
- соответствовать отраслевым требованиям качества;
- обеспечивать обработку данных исключительно на территории России.
Суверенные модели ИИ
Законопроект вводит понятие суверенных и национальных больших фундаментальных моделей, а также требования к ним:
- все стадии разработки, обучения и эксплуатации должны проходить на территории России и только с участием российских компаний и граждан;
- наборы данных для обучения формируются внутри страны.
При этом в документе есть положение, которое вводит возможность ограничивать или запрещать зарубежные ИИ-технологии в случаях, установленных законодательством. Какими будут эти случаи, покажет дальнейшее развитие регуляторики.
Кто и что должен
Законопроект детально разграничивает обязанности участников.
Например, разработчики моделей обязаны документировать логику работы моделей и моделировать потенциальные риски.
Операторы систем должны тестировать системы на предмет противоправного использования, незамедлительно приостанавливать эксплуатацию при выявлении угроз, вести учет инцидентов и назначать ответственных за безопасность.
Владельцы сервисов обязаны устанавливать правила доступа с запретом противоправного использования, информировать пользователей о взаимодействии с ИИ, а также внедрять механизмы, ограничивающие генерацию противозаконного контента.
Пользователи обязаны соблюдать правила доступа, использовать ИИ в законных целях и не обходить встроенные механизмы безопасности.
Разработчик, оператор и владелец сервиса отвечают за результаты, полученные при применении ИИ и нарушающие закон, если заведомо знали или должны были знать о возможности их получения.
В медицине проект не меняет уже сложившегося положения вещей: окончательное решение в вопросах диагностики и лечения пациента остается за врачом, следовательно, «участие» ИИ не меняет сути и последствий врачебной ошибки, за которые отвечают медработник и клиника. Об этом мы рассказывали ранее.
Маркировка генеративного контента
Контент, созданный с помощью ИИ, обяжут маркировать. То есть, к обязательной маркировке рекламного ролика, сгенерированного ИИ, как интернет-рекламы добавится еще и маркировка по способу создания. Кто именно будет это контролировать и каким образом, покажут подзаконные акты – проект также упоминает их в составе будущей нормативной базы внедрения и применения ИИ.
Права граждан
Законопроект закрепляет комплекс гарантий для граждан:
- уведомление— продавцы и исполнители услуг обязаны информировать о применении ИИ при автономном принятии решений;
- право на отказ— в ряде случаев, гражданин может потребовать оказания услуги без использования ИИ, перечень таких ситуаций должно определить Правительство;
- досудебное обжалование— решения госорганов и организаций с государственным участием, принятые с помощью ИИ, можно обжаловать в досудебном порядке;
- компенсация вреда— гражданин вправе требовать возмещения ущерба, причиненного неправомерным использованием ИИ.
Например, если клиника использует чат-бот с ИИ-технологией для записи пациентов, то по новым правилам ей придется уведомлять пациентов о том, что их записывает подобный инструмент. В таких обстоятельствах перед ссылкой на автоматизированную запись правильным видится соответствующее уведомление, например: «Для записи на прием используется ИИ-бот, если вы не согласны с этим форматом записи, свяжитесь с администратором по номеру телефона…».
Интеллектуальная собственность
Результаты, созданные с помощью ИИ, охраняются правилам ГК РФ, если они соответствуют критериям охраноспособности — независимо от того, созданы они человеком или системой.
Владельцы сервисов обязаны уведомлять пользователей о правилах и ограничениях использования результатов ИИ, а в договорах указывать, кому принадлежат права на сгенерированный контент.
Существенный нюанс: извлечение информации из объектов, защищенных авторскими или патентными правами, для создания наборов данных и обучения ИИ не является нарушением — при условии, что экземпляр произведения получен правомерно либо обнародован/доступен для анализа.
Мониторинг и контроль
Уполномоченные органы будут осуществлять непрерывный мониторинг последствий применения ИИ: сбор данных об инцидентах, оценку негативных последствий и прогнозирование угроз. При выявлении существенных рисков предусмотрено право на проведение внеплановых проверок и выдачу обязательных предписаний.
Фактически регуляторы идут в одном направлении: ранее Росздравнадзор уже опубликовал проект, в котором идет речь об автоматической передаче данных о работе оборудования с ИИ-технологиями в ведомственную АИС, и данные об ошибках в нем тоже фигурируют.
Международное сотрудничество
Отдельный блок законопроекта посвящен международной повестке. Россия намерена укреплять позиции в международных организациях, формирующих политику в области ИИ, продвигать отечественные технологии и стандарты, развивать научное и образовательное сотрудничество, а также привлекать иностранных специалистов. При этом зарубежные ИИ-технологии могут быть ограничены или запрещены в случаях, установленных законодательством.


