Москва
Мероприятия
Блог
Корзина
Регистрация Войти
main-bg
Блог

Контролировать нельзя игнорировать: как страны регулируют развитие ИИ

Стремительное развитие технологий искусственного интеллекта (ИИ) поставило перед мировым сообществом вопросы правового регулирования этой сферы. Даже лидеры технологической отрасли предупреждают об опасности ИИ и призывают приостановить разработку и обучение мощных систем. В таких условиях страны по-своему реагируют на новые вызовы и демонстрируют различные подходы к регулированию технологий.

Дилемма контроля над ИИ

Первые нормативные рамки разного уровня в области ИИ приняты в более чем 60 странах. Общей тенденцией является стремление найти баланс между поощрением инноваций и обеспечением безопасности использования ИИ. Кто-то идет по пути полного регулирования на уровне государства, кто-то оставляет контроль отраслевым ведомствам, где-то формируется саморегулирующаяся среда. Тем не менее появляется все больше нормативных документов, которые влияют на сферу ИИ напрямую и косвенно. 

Вопросов в области регулирования ИИ множество, но все они сводятся к нескольким большим дискуссионным темам: 

  • Права на интеллектуальную собственность: кому принадлежит авторство созданного ИИ продукта.
  • Ответственность: кто виновен во вреде, причиненном ИИ, кто должен возмещать ущерб.
  • Безопасность: как регулировать техническую разработку, охранять персональные данные и обеспечивать равный доступ к информации и т.д.
  • Маркировка: нужно ли информировать пользователей, что продукт создан с помощью ИИ, каким образом делать пометки и т.д.
  • Трансграничное использование: как регулировать ИИ с учетом разных законодательных систем и усложняющейся геополитической ситуации.
  • Защита прав человека: как растущее влияние ИИ отразится на положении человека в мире. 

Председатель Конституционного суда РФ Валерий Зорькин посвятил ИИ лекцию на Петербургском международном юридическом форуме (ПМЮФ), на которой представил концептуальную позицию по вопросам регулирования технологий. Он призвал с осторожностью относиться к ИИ, так как это другой тип интеллекта, который может игнорировать все, что человек считает ценностно важным. По мнению Зорькина, проблема контроля осложняется бизнес-гонкой и использованием ИИ в системах вооружений, так как в этих областях важна эффективность решения, а не «планетарная безопасность и долгосрочные последствия для всего человечества». 

Он подчеркнул, что в российском законодательстве правовой статус ИИ не определен. Есть два альтернативных подхода — ИИ как объект права (имущество) или субъект права (по модели юрлица или физлица). 

«Личными правами может обладать только «личность». И это не тавтология, но непреложная истина», — председатель Конституционного суда РФ Валерий Зорькин. 

Основания привлечения ИИ к ответственности и наделения роботов правосубъектностью отсутствуют. Программы нельзя наказать, так как они не будут испытывать негативные эмоции от наказания. Ошибка системы — это ошибка ее создателя, подчеркнул Валерий Зорькин.

Председатель Конституционного суда соглашается, что необходимо признать особый правовой режим роботов. Однако он должен базироваться на принципах защиты прав и свобод человека, безопасности и предупреждения негативных последствий. 

В этой статье рассмотрим ключевые документы в области регулирования ИИ в Евросоюзе, России, США, Китае и на международном уровне. 

Россия 

Россия с разных сторон подбирается к формированию законодательства в области ИИ. Например, в 2020-м правительство утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Утвержденная за год до этого Национальная стратегия развития ИИ в России предусматривает создание комплексной системы регулирования общественных отношений в области ИИ, которая должна опираться на принципы безопасности, уважения прав и свобод человека и его воли, недискриминации и ответственности. При формировании нормативной базы в этой области необходимо использовать риск-ориентированный подход — регулирование должно соответствовать уровню рисков. Помимо этого, законодательство должно поощрять разработку ИИ и устранять барьеры, говорится в документе. 

Для стимулирования развития технологий ИИ в России организуются экспериментальные правовые режимы (ЭПР). Сейчас работают 14 ЭПР в области медицины и беспилотного транспорта. Также было разработано 180 инициативных предложений для ЭПР по разным направлениям. 

Читайте по теме: Роботакси, или Автомобили будущего

В июле президент подписал закон об изменениях в № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». Поправки направлены на то, чтобы в рамках ЭПР иметь информацию об ответственных за причинение вреда при использовании технологий, созданных с применением ИИ, и вести учет таких технологий. Согласно документу, программы должны содержать положения о страховании гражданской ответственности участников ЭПР за причинение вреда жизни, здоровью и имуществу, в том числе при использовании разработанных с применением технологий ИИ решений. Должны прописываться минимальный размер страховой суммы, перечень страховых рисков и случаев. Поправки также предполагают создание комиссии, которая будет устанавливать обстоятельства причинения вреда, его объем и характер, выносить заключение о необходимости принятия мер по минимизации последствий и т.д. Документ обязывает участников ЭПР вести реестр результатов интеллектуальной деятельности с применением ИИ и реестр лиц, которые используют такие решения. 

Параллельно идет работа по стандартизации ИИ. Политика Росстандарта подразумевает подготовку более чем 100 стандартов для формирования национальной нормативно-технической базы. 

Помимо этого, в 2021 году в России разработал Кодекс этики в сфере ИИ, который к середине 2024-го подписали более 380 российских компаний, 44 федеральных органа власти и 27 иностранных организаций. Кодекс носит рекомендательный характер и применяется только к гражданским разработкам. В 2024 году крупные технологические компании подписали Декларацию об ответственной разработке и использовании сервисов на основе генеративного ИИ. Среди подписантов — Сбер, «Яндекс», MTS AI, Сколтех, ВШЭ и др. 

Все чаще в России обсуждается идея так называемого закона об ИИ. В апреле 2024 года председатель комитета Госдумы по информполитике Александр Хинштейн заявил, что необходимо закрепить в отдельном законе нормы, регулирующие сферу ИИ. По его словам, закон будет обсуждаться при подготовке Цифрового кодекса. 

В мае член комитета Антон Горелкин рассказал, что Госдума начала работать над законом о маркировке контента, созданного при помощи ИИ (с помощью графических или водяных знаков). Впрочем, один из российских лидеров в области ИИ — «Яндекс» —  не стал дожидаться принятия закона и начал самостоятельно маркировать рекламу, сгенерированную с помощью ИИ. Пометки появились в рекламных объявлениях внутри Директа. Маркируются сообщения с изображениями, которые были созданы нейросетью YandexART. 

Евросоюз

Закон Евросоюза о регулировании искусственного интеллекта (AI Act) — это первый комплексный закон, устанавливающий единые правила для разработки и использования ИИ на территории союза. Работа над ним началась в 2020 году. Европейский парламент одобрил документ в марте, а Совет ЕС — в мае 2024 года. Закон может стать глобальным стандартом для регулирования ИИ и оказать влияние на формирование нормативной базы в других странах. 

В Европарламенте подчеркнули, что закон обеспечивает безопасность и соблюдение основных прав и при этом стимулирует развитие инноваций. «Целью является защита фундаментальных прав, демократии, верховенства закона и экологической устойчивости от высокорискованного искусственного интеллекта, а также стимулирование инноваций и утверждение Европы в качестве лидера в этой области. Регламент устанавливает обязательства в отношении ИИ, исходя из его потенциальных рисков и уровня воздействия», — добавили в Европарламенте. 

Закон базируется на риск-ориентированном подходе. Документ выделяет четыре группы систем ИИ и устанавливает для них правила и ограничения в зависимости от их степени риска: недопустимый, высокий, ограниченный и минимальный риск. Таким образом, закон запрещает системы из первой группы (например, биометрическую категоризацию на основе чувствительных данных), вводит более строгие регуляторные меры для систем из второй и ограничения для третьей. Системы ИИ с минимальным, или отсутствующим риском, разрешаются к использованию.

Наибольшему регулированию подвержены системы с высоким риском. Они могут нарушать права людей, причинить вред здоровью и окружающей среде. Например, это ИИ, который используется в области критической инфраструктуры, образовании, здравоохранении, банкинге и т.д. Контроль за ним должен вести человек, а компании-разработчики обязаны снижать и оценивать риски, обеспечивать безопасность продуктов, вести прозрачную деятельность. Помимо этого, закон устанавливает, что решения из этой группы риска должны проходить регистрацию в базе Евросоюза еще до вывода продукта на рынок или ввода в эксплуатацию. 

Разработчики обязаны информировать пользователей, что те взаимодействуют с такими системами. При этом граждане смогут подавать жалобы на ИИ и получать разъяснения по решениям, которые затрагивают их права. Закон обязывает разработчиков маркировать тексты, аудио, видео, которые сгенерированы ИИ или подвергались манипуляциям. 

AI Act предусматривает административную ответственность за нарушение положений закона — от 7,5 млн евро до 35 млн евро или 1,5% — 7% годового оборота компании. В новых правилах также есть положения о стимулировании развития технологий. Например, предлагается устанавливать на национальных уровнях «регуляторные песочницы». 

В мае в рамках принятого законодательства в Евросоюзе заработал Офис ИИ, который будет контролировать выполнение требований документа и расследовать нарушения, следить за уровнем безопасности ИИ, координировать международное сотрудничество и стимулировать инновации в этой области. 

Китай

Китай одним из первых начал разработку национальной стратегии в области ИИ. В 2017 году был утвержден основополагающий документ под названием «План развития искусственного интеллекта нового поколения», который устанавливал подход к разработке технологий и приложений. В стране есть национальные стандарты и этические рекомендации по развитию ИИ. В 2022 году был опубликован Регламент по управлению алгоритмическими рекомендациями в информационных сервисах, который запрещает алгоритмическую генерацию фейковых новостей, обязывает поставщиков проявлять особую заботу о пожилых людях и направлен на предотвращение монополии на рынке. В том же году было выпущено Положение об администрировании информационных интернет-сервисов глубокого синтеза, направленное на регулирование услуг глубокого синтеза для создания изображений, видео, аудио и текста. 

Одним из последних знаковых документов стали «Временные меры по регулированию генеративного ИИ». Согласно новым правилам, разработчики ИИ должны нести ответственность за сгенерированный контент, соблюдать права на интеллектуальную собственность и личную жизнь. В документе прописано, что контент, созданный при помощи генеративного ИИ, должен отражать социалистические ценности и не должен подстрекать к свержению социалистической системы и наносить вред национальному единству. Перед выводом ИИ-продукта в массовое пользование модель и алгоритмы должны пройти государственную проверку на безопасность. Изначально документ предусматривал штрафы до 100 тыс. юаней за нарушение требований, но впоследствии от этой идеи отказались. 

Читайте по теме: Ainergy. Новые возможности автоматизации с генеративным ИИ на платформе SimpleOne

США

Практика лидеров в области ИИ — США — складывается по пути саморегулирования, когда технологические корпорации договариваются между собой об этичном использовании технологий, а на национальном уровне или на уровне штатов создаются рекомендации и руководства. Впрочем, ведущее положение США в глобальной гонке ИИ закрепляется в Законе о национальной инициативе в области ИИ, принятом в 2020-м. Эта линия была задана еще в 2019 году, когда президент Дональд Трамп подписал Указ о поддержании лидерства Америки в области ИИ. Документ устанавливал принципы и стратегии по укреплению потенциала страны в этой области. 

В 2023 году президент США Джо Байден подписал Указ о безопасном, защищенном и заслуживающем доверия ИИ. Документ устанавливает новые стандарты безопасности ИИ, в том числе обязывает разработчиков делиться результатами тестирования на безопасность с правительством. Положения указа также направлены на обеспечение конфиденциальности персональных данных, защиту от мошенничества и обмана с использованием ИИ. 

Вслед за указом Национальный институт стандартов и технологий при Министерстве торговли выпустил четыре проекта публикаций. Они касаются управления рисками генеративного ИИ, обеспечения безопасной разработки ПО для генеративного ИИ, снижения рисков сгенерированного контента и плана по разработке глобальных стандартов ИИ.

Международное регулирование

Глобальное регулирование ИИ находится на начальной стадии развития. Большинство стран участвуют в обсуждении и признают необходимость международного сотрудничества и консенсуса в этой области. Однако из-за разницы национальных правовых систем и подходов к регулированию ИИ правительствам сложно прийти к согласию. Практика международного сотрудничества и история показывают, что создать наднациональный орган, требования которого страны выполняли бы безукоризненно и не могли проигнорировать, невозможно. 

Разные объединения и организации разрабатывают нормы и рекомендации по развитию и регулированию ИИ. Документы подписывают члены-участники, однако это не гарантирует исполнение установленных правил. Например, Генассамблея ООН приняла резолюцию под названием «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития». ЮНЕСКО выпустил «Рекомендации об этических аспектах ИИ». Соглашения в области ИИ есть у ОЭСР, НАТО, G7 и др. Страны БРИКС обсуждают создание единой структуры по управлению ИИ. Тема регулирования и разработки стандартов ИИ будет одной из ключевых во время председательства России в объединении в 2024 году. 

Соглашения об ответственной разработке и использовании ИИ подписываются на уровне компаний. В частности, такие договоренности есть между лидерами отрасли Google, Amazon, Microsoft, OpenAI, Anthropic, Inflection и Meta (признана экстремистской организацией и запрещена в России). 

Баланс между свободой и регулированием становится ключевым фактором для успешного развития технологических компаний. Те страны, которые смогут найти этот баланс, будут лидировать в глобальной гонке ИИ. 

Новости, истории и события
Смотреть все
SL Soft (ГК Softline) и MAINTEX объявляют о сотрудничестве
Новости

SL Soft (ГК Softline) и MAINTEX объявляют о сотрудничестве

25.04.2025

Провайдер «Инферит Облако» (ГК Softline) модернизировал облачную инфраструктуру ЦОД во Фрязино
Новости

Провайдер «Инферит Облако» (ГК Softline) модернизировал облачную инфраструктуру ЦОД во Фрязино

25.04.2025

Bell Integrator (ГК Softline) разработал систему сквозного мониторинга бизнес-процессов для крупной финансовой организации
Новости

Bell Integrator (ГК Softline) разработал систему сквозного мониторинга бизнес-процессов для крупной финансовой организации

25.04.2025

ОС «МСВСфера Сервер» (ГК Softline) и CommuniGate Pro предлагают новый уровень надежности в коммуникации с контрагентами
Новости

ОС «МСВСфера Сервер» (ГК Softline) и CommuniGate Pro предлагают новый уровень надежности в коммуникации с контрагентами

24.04.2025

ГК Softline включила в продуктовый портфель платформу GMonit
Новости

ГК Softline включила в продуктовый портфель платформу GMonit

24.04.2025

ПАО «Софтлайн» объявляет о реорганизации владения АО Банк Синара в капитале Компании в связи с переходом доли на другое юридическое лицо
Новости

ПАО «Софтлайн» объявляет о реорганизации владения АО Банк Синара в капитале Компании в связи с переходом доли на другое юридическое лицо

24.04.2025

Платформа «Клаудмастер» от «Инферит FinOps» (ГК Softline) запускает FinOps-решение для Kubernetes
Новости

Платформа «Клаудмастер» от «Инферит FinOps» (ГК Softline) запускает FinOps-решение для Kubernetes

23.04.2025

Облачный провайдер ActiveCloud (ГК Softline) пополнил свой портфель SaaS-услуг российским решением MULTIFACTOR
Новости

Облачный провайдер ActiveCloud (ГК Softline) пополнил свой портфель SaaS-услуг российским решением MULTIFACTOR

23.04.2025

«Инферит» (ГК Softline) выходит в новый формат: вендор представил первый 15,6-дюймовый ноутбук Mercury
Новости

«Инферит» (ГК Softline) выходит в новый формат: вендор представил первый 15,6-дюймовый ноутбук Mercury

23.04.2025

ИИ теперь экономит пользователям TEST IT («Девелоника», ГК Softline) до 50% времени на задачах тестирования
Новости

ИИ теперь экономит пользователям TEST IT («Девелоника», ГК Softline) до 50% времени на задачах тестирования

22.04.2025

«Телеком биржа», Infosecurity (ГК Softline) и Servicepipe заключили партнерское соглашение
Новости

«Телеком биржа», Infosecurity (ГК Softline) и Servicepipe заключили партнерское соглашение

22.04.2025

«Инферит ОС» (ГК Softline) подтвердил совместимость ОС «МСВСфера Сервер» 9 с Axiom JDK и Liberсat Certified
Новости

«Инферит ОС» (ГК Softline) подтвердил совместимость ОС «МСВСфера Сервер» 9 с Axiom JDK и Liberсat Certified

22.04.2025

«Инферит» (ГК Softline) поддержал космические таланты России: итоги конкурса «Звездная эстафета»
Новости

«Инферит» (ГК Softline) поддержал космические таланты России: итоги конкурса «Звездная эстафета»

21.04.2025

Российский производитель лазерных решений VPG Laserone (ГК Softline) принял участие в международной выставке «Нефтегаз-2025»
Новости

Российский производитель лазерных решений VPG Laserone (ГК Softline) принял участие в международной выставке «Нефтегаз-2025»

21.04.2025

Провайдер «Инферит Облако» (ГК Softline) перевел облачную платформу в ЦОД Фрязино на ОС «МСВСфера»
Новости

Провайдер «Инферит Облако» (ГК Softline) перевел облачную платформу в ЦОД Фрязино на ОС «МСВСфера»

21.04.2025

Моноблоки «Инферит» (ГК Softline) внесли в реестр отечественной продукции Минпромторга
Новости

Моноблоки «Инферит» (ГК Softline) внесли в реестр отечественной продукции Минпромторга

18.04.2025

ГК Softline автоматизировала часть бизнес-процессов МБ РУС Банка
Новости

ГК Softline автоматизировала часть бизнес-процессов МБ РУС Банка

18.04.2025

«Инферит» (ГК Softline) объявил о новом назначении: директором по маркетинговым коммуникациям, PR и бренду компании стала Анна Кулик
Новости

«Инферит» (ГК Softline) объявил о новом назначении: директором по маркетинговым коммуникациям, PR и бренду компании стала Анна Кулик

17.04.2025

Стратегия перехода в облако
Блог

Стратегия перехода в облако

24.04.2025

Защита данных и информации: методы, практика, стандарты и законы
Блог

Защита данных и информации: методы, практика, стандарты и законы

22.04.2025

Цифровые профессии будущего: кто выживет в эпоху искусственного интеллекта
Блог

Цифровые профессии будущего: кто выживет в эпоху искусственного интеллекта

17.04.2025

Российские системы виртуализации
Блог

Российские системы виртуализации

15.04.2025

DDoS-атаки: как подготовиться к внедрению защиты и с чем предстоит бороться
Блог

DDoS-атаки: как подготовиться к внедрению защиты и с чем предстоит бороться

10.04.2025

Виртуальные тренажеры для медицинского персонала: инновационный подход к обучению
Блог

Виртуальные тренажеры для медицинского персонала: инновационный подход к обучению

08.04.2025

«Софтлайн Офис» — платформа корпоративных коммуникаций
Блог

«Софтлайн Офис» — платформа корпоративных коммуникаций

04.04.2025

Оснащение школ под ключ: от проектирования до ввода в эксплуатацию
Блог

Оснащение школ под ключ: от проектирования до ввода в эксплуатацию

03.04.2025

Киберучения: готовим сотрудников к успешным отражениям атак
Блог

Киберучения: готовим сотрудников к успешным отражениям атак

27.03.2025

Контроль усталости водителей
Блог

Контроль усталости водителей

25.03.2025

Инновации в школах в 2025 году: 3D-модели, БПЛА, роботы и VR
Блог

Инновации в школах в 2025 году: 3D-модели, БПЛА, роботы и VR

14.03.2025

Инвестиции в цифровизацию ритейла: стратегии 2025 года
Блог

Инвестиции в цифровизацию ритейла: стратегии 2025 года

11.03.2025

Топ-редакторы для работы с PDF — сравниваем программы
Блог

Топ-редакторы для работы с PDF — сравниваем программы

04.03.2025

Российские офисные системы: выбор и преимущества
Блог

Российские офисные системы: выбор и преимущества

03.03.2025

Softline Assessment и СУБД Tantor: мощный тандем для диагностики инфраструктуры
Блог

Softline Assessment и СУБД Tantor: мощный тандем для диагностики инфраструктуры

26.02.2025

Интервью ГК Softline и «Базальт СПО»: сервис Softline Enterprise Agreement — инфраструктура заказчика из единого окна
Блог

Интервью ГК Softline и «Базальт СПО»: сервис Softline Enterprise Agreement — инфраструктура заказчика из единого окна

24.02.2025

ИИ-тренды в промышленности: от цифровых ассистентов до умных АСУ ТП
Блог

ИИ-тренды в промышленности: от цифровых ассистентов до умных АСУ ТП

20.02.2025

Как эффективно защитить инфраструктуру компании от DDoS-атак?
Блог

Как эффективно защитить инфраструктуру компании от DDoS-атак?

14.02.2025

Разыгрываем ноутбук
в нашем канале Telegram
Участвовать