Москва
Мероприятия
Блог
Корзина
Регистрация Войти
main-bg
Блог

Контролировать нельзя игнорировать: как страны регулируют развитие ИИ

Стремительное развитие технологий искусственного интеллекта (ИИ) поставило перед мировым сообществом вопросы правового регулирования этой сферы. Даже лидеры технологической отрасли предупреждают об опасности ИИ и призывают приостановить разработку и обучение мощных систем. В таких условиях страны по-своему реагируют на новые вызовы и демонстрируют различные подходы к регулированию технологий.

Дилемма контроля над ИИ

Первые нормативные рамки разного уровня в области ИИ приняты в более чем 60 странах. Общей тенденцией является стремление найти баланс между поощрением инноваций и обеспечением безопасности использования ИИ. Кто-то идет по пути полного регулирования на уровне государства, кто-то оставляет контроль отраслевым ведомствам, где-то формируется саморегулирующаяся среда. Тем не менее появляется все больше нормативных документов, которые влияют на сферу ИИ напрямую и косвенно. 

Вопросов в области регулирования ИИ множество, но все они сводятся к нескольким большим дискуссионным темам: 

  • Права на интеллектуальную собственность: кому принадлежит авторство созданного ИИ продукта.
  • Ответственность: кто виновен во вреде, причиненном ИИ, кто должен возмещать ущерб.
  • Безопасность: как регулировать техническую разработку, охранять персональные данные и обеспечивать равный доступ к информации и т.д.
  • Маркировка: нужно ли информировать пользователей, что продукт создан с помощью ИИ, каким образом делать пометки и т.д.
  • Трансграничное использование: как регулировать ИИ с учетом разных законодательных систем и усложняющейся геополитической ситуации.
  • Защита прав человека: как растущее влияние ИИ отразится на положении человека в мире. 

Председатель Конституционного суда РФ Валерий Зорькин посвятил ИИ лекцию на Петербургском международном юридическом форуме (ПМЮФ), на которой представил концептуальную позицию по вопросам регулирования технологий. Он призвал с осторожностью относиться к ИИ, так как это другой тип интеллекта, который может игнорировать все, что человек считает ценностно важным. По мнению Зорькина, проблема контроля осложняется бизнес-гонкой и использованием ИИ в системах вооружений, так как в этих областях важна эффективность решения, а не «планетарная безопасность и долгосрочные последствия для всего человечества». 

Он подчеркнул, что в российском законодательстве правовой статус ИИ не определен. Есть два альтернативных подхода — ИИ как объект права (имущество) или субъект права (по модели юрлица или физлица). 

«Личными правами может обладать только «личность». И это не тавтология, но непреложная истина», — председатель Конституционного суда РФ Валерий Зорькин. 

Основания привлечения ИИ к ответственности и наделения роботов правосубъектностью отсутствуют. Программы нельзя наказать, так как они не будут испытывать негативные эмоции от наказания. Ошибка системы — это ошибка ее создателя, подчеркнул Валерий Зорькин.

Председатель Конституционного суда соглашается, что необходимо признать особый правовой режим роботов. Однако он должен базироваться на принципах защиты прав и свобод человека, безопасности и предупреждения негативных последствий. 

В этой статье рассмотрим ключевые документы в области регулирования ИИ в Евросоюзе, России, США, Китае и на международном уровне. 

Россия 

Россия с разных сторон подбирается к формированию законодательства в области ИИ. Например, в 2020-м правительство утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Утвержденная за год до этого Национальная стратегия развития ИИ в России предусматривает создание комплексной системы регулирования общественных отношений в области ИИ, которая должна опираться на принципы безопасности, уважения прав и свобод человека и его воли, недискриминации и ответственности. При формировании нормативной базы в этой области необходимо использовать риск-ориентированный подход — регулирование должно соответствовать уровню рисков. Помимо этого, законодательство должно поощрять разработку ИИ и устранять барьеры, говорится в документе. 

Для стимулирования развития технологий ИИ в России организуются экспериментальные правовые режимы (ЭПР). Сейчас работают 14 ЭПР в области медицины и беспилотного транспорта. Также было разработано 180 инициативных предложений для ЭПР по разным направлениям. 

Читайте по теме: Роботакси, или Автомобили будущего

В июле президент подписал закон об изменениях в № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». Поправки направлены на то, чтобы в рамках ЭПР иметь информацию об ответственных за причинение вреда при использовании технологий, созданных с применением ИИ, и вести учет таких технологий. Согласно документу, программы должны содержать положения о страховании гражданской ответственности участников ЭПР за причинение вреда жизни, здоровью и имуществу, в том числе при использовании разработанных с применением технологий ИИ решений. Должны прописываться минимальный размер страховой суммы, перечень страховых рисков и случаев. Поправки также предполагают создание комиссии, которая будет устанавливать обстоятельства причинения вреда, его объем и характер, выносить заключение о необходимости принятия мер по минимизации последствий и т.д. Документ обязывает участников ЭПР вести реестр результатов интеллектуальной деятельности с применением ИИ и реестр лиц, которые используют такие решения. 

Параллельно идет работа по стандартизации ИИ. Политика Росстандарта подразумевает подготовку более чем 100 стандартов для формирования национальной нормативно-технической базы. 

Помимо этого, в 2021 году в России разработал Кодекс этики в сфере ИИ, который к середине 2024-го подписали более 380 российских компаний, 44 федеральных органа власти и 27 иностранных организаций. Кодекс носит рекомендательный характер и применяется только к гражданским разработкам. В 2024 году крупные технологические компании подписали Декларацию об ответственной разработке и использовании сервисов на основе генеративного ИИ. Среди подписантов — Сбер, «Яндекс», MTS AI, Сколтех, ВШЭ и др. 

Все чаще в России обсуждается идея так называемого закона об ИИ. В апреле 2024 года председатель комитета Госдумы по информполитике Александр Хинштейн заявил, что необходимо закрепить в отдельном законе нормы, регулирующие сферу ИИ. По его словам, закон будет обсуждаться при подготовке Цифрового кодекса. 

В мае член комитета Антон Горелкин рассказал, что Госдума начала работать над законом о маркировке контента, созданного при помощи ИИ (с помощью графических или водяных знаков). Впрочем, один из российских лидеров в области ИИ — «Яндекс» —  не стал дожидаться принятия закона и начал самостоятельно маркировать рекламу, сгенерированную с помощью ИИ. Пометки появились в рекламных объявлениях внутри Директа. Маркируются сообщения с изображениями, которые были созданы нейросетью YandexART. 

Евросоюз

Закон Евросоюза о регулировании искусственного интеллекта (AI Act) — это первый комплексный закон, устанавливающий единые правила для разработки и использования ИИ на территории союза. Работа над ним началась в 2020 году. Европейский парламент одобрил документ в марте, а Совет ЕС — в мае 2024 года. Закон может стать глобальным стандартом для регулирования ИИ и оказать влияние на формирование нормативной базы в других странах. 

В Европарламенте подчеркнули, что закон обеспечивает безопасность и соблюдение основных прав и при этом стимулирует развитие инноваций. «Целью является защита фундаментальных прав, демократии, верховенства закона и экологической устойчивости от высокорискованного искусственного интеллекта, а также стимулирование инноваций и утверждение Европы в качестве лидера в этой области. Регламент устанавливает обязательства в отношении ИИ, исходя из его потенциальных рисков и уровня воздействия», — добавили в Европарламенте. 

Закон базируется на риск-ориентированном подходе. Документ выделяет четыре группы систем ИИ и устанавливает для них правила и ограничения в зависимости от их степени риска: недопустимый, высокий, ограниченный и минимальный риск. Таким образом, закон запрещает системы из первой группы (например, биометрическую категоризацию на основе чувствительных данных), вводит более строгие регуляторные меры для систем из второй и ограничения для третьей. Системы ИИ с минимальным, или отсутствующим риском, разрешаются к использованию.

Наибольшему регулированию подвержены системы с высоким риском. Они могут нарушать права людей, причинить вред здоровью и окружающей среде. Например, это ИИ, который используется в области критической инфраструктуры, образовании, здравоохранении, банкинге и т.д. Контроль за ним должен вести человек, а компании-разработчики обязаны снижать и оценивать риски, обеспечивать безопасность продуктов, вести прозрачную деятельность. Помимо этого, закон устанавливает, что решения из этой группы риска должны проходить регистрацию в базе Евросоюза еще до вывода продукта на рынок или ввода в эксплуатацию. 

Разработчики обязаны информировать пользователей, что те взаимодействуют с такими системами. При этом граждане смогут подавать жалобы на ИИ и получать разъяснения по решениям, которые затрагивают их права. Закон обязывает разработчиков маркировать тексты, аудио, видео, которые сгенерированы ИИ или подвергались манипуляциям. 

AI Act предусматривает административную ответственность за нарушение положений закона — от 7,5 млн евро до 35 млн евро или 1,5% — 7% годового оборота компании. В новых правилах также есть положения о стимулировании развития технологий. Например, предлагается устанавливать на национальных уровнях «регуляторные песочницы». 

В мае в рамках принятого законодательства в Евросоюзе заработал Офис ИИ, который будет контролировать выполнение требований документа и расследовать нарушения, следить за уровнем безопасности ИИ, координировать международное сотрудничество и стимулировать инновации в этой области. 

Китай

Китай одним из первых начал разработку национальной стратегии в области ИИ. В 2017 году был утвержден основополагающий документ под названием «План развития искусственного интеллекта нового поколения», который устанавливал подход к разработке технологий и приложений. В стране есть национальные стандарты и этические рекомендации по развитию ИИ. В 2022 году был опубликован Регламент по управлению алгоритмическими рекомендациями в информационных сервисах, который запрещает алгоритмическую генерацию фейковых новостей, обязывает поставщиков проявлять особую заботу о пожилых людях и направлен на предотвращение монополии на рынке. В том же году было выпущено Положение об администрировании информационных интернет-сервисов глубокого синтеза, направленное на регулирование услуг глубокого синтеза для создания изображений, видео, аудио и текста. 

Одним из последних знаковых документов стали «Временные меры по регулированию генеративного ИИ». Согласно новым правилам, разработчики ИИ должны нести ответственность за сгенерированный контент, соблюдать права на интеллектуальную собственность и личную жизнь. В документе прописано, что контент, созданный при помощи генеративного ИИ, должен отражать социалистические ценности и не должен подстрекать к свержению социалистической системы и наносить вред национальному единству. Перед выводом ИИ-продукта в массовое пользование модель и алгоритмы должны пройти государственную проверку на безопасность. Изначально документ предусматривал штрафы до 100 тыс. юаней за нарушение требований, но впоследствии от этой идеи отказались. 

Читайте по теме: Ainergy. Новые возможности автоматизации с генеративным ИИ на платформе SimpleOne

США

Практика лидеров в области ИИ — США — складывается по пути саморегулирования, когда технологические корпорации договариваются между собой об этичном использовании технологий, а на национальном уровне или на уровне штатов создаются рекомендации и руководства. Впрочем, ведущее положение США в глобальной гонке ИИ закрепляется в Законе о национальной инициативе в области ИИ, принятом в 2020-м. Эта линия была задана еще в 2019 году, когда президент Дональд Трамп подписал Указ о поддержании лидерства Америки в области ИИ. Документ устанавливал принципы и стратегии по укреплению потенциала страны в этой области. 

В 2023 году президент США Джо Байден подписал Указ о безопасном, защищенном и заслуживающем доверия ИИ. Документ устанавливает новые стандарты безопасности ИИ, в том числе обязывает разработчиков делиться результатами тестирования на безопасность с правительством. Положения указа также направлены на обеспечение конфиденциальности персональных данных, защиту от мошенничества и обмана с использованием ИИ. 

Вслед за указом Национальный институт стандартов и технологий при Министерстве торговли выпустил четыре проекта публикаций. Они касаются управления рисками генеративного ИИ, обеспечения безопасной разработки ПО для генеративного ИИ, снижения рисков сгенерированного контента и плана по разработке глобальных стандартов ИИ.

Международное регулирование

Глобальное регулирование ИИ находится на начальной стадии развития. Большинство стран участвуют в обсуждении и признают необходимость международного сотрудничества и консенсуса в этой области. Однако из-за разницы национальных правовых систем и подходов к регулированию ИИ правительствам сложно прийти к согласию. Практика международного сотрудничества и история показывают, что создать наднациональный орган, требования которого страны выполняли бы безукоризненно и не могли проигнорировать, невозможно. 

Разные объединения и организации разрабатывают нормы и рекомендации по развитию и регулированию ИИ. Документы подписывают члены-участники, однако это не гарантирует исполнение установленных правил. Например, Генассамблея ООН приняла резолюцию под названием «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития». ЮНЕСКО выпустил «Рекомендации об этических аспектах ИИ». Соглашения в области ИИ есть у ОЭСР, НАТО, G7 и др. Страны БРИКС обсуждают создание единой структуры по управлению ИИ. Тема регулирования и разработки стандартов ИИ будет одной из ключевых во время председательства России в объединении в 2024 году. 

Соглашения об ответственной разработке и использовании ИИ подписываются на уровне компаний. В частности, такие договоренности есть между лидерами отрасли Google, Amazon, Microsoft, OpenAI, Anthropic, Inflection и Meta (признана экстремистской организацией и запрещена в России). 

Баланс между свободой и регулированием становится ключевым фактором для успешного развития технологических компаний. Те страны, которые смогут найти этот баланс, будут лидировать в глобальной гонке ИИ. 

Новости, истории и события
Смотреть все
Группа «Борлас» (ГК Softline) и компания «Фидесис» организуют первую специализированную практическую конференцию пользователей CAE Fidesys «CAE Day 2025»
Новости

Группа «Борлас» (ГК Softline) и компания «Фидесис» организуют первую специализированную практическую конференцию пользователей CAE Fidesys «CAE Day 2025»

09.09.2025

Группа «Борлас» (ГК Softline) заключила партнерское соглашение с компанией CS Group, одним из ведущих интеграторов инновационных решений для цифровизации промышленности и строительства
Новости

Группа «Борлас» (ГК Softline) заключила партнерское соглашение с компанией CS Group, одним из ведущих интеграторов инновационных решений для цифровизации промышленности и строительства

09.09.2025

Вышло масштабное обновление «Цитрос Архива» от SL Soft FabricaONE.AI (акционер — ГК Softline)
Новости

Вышло масштабное обновление «Цитрос Архива» от SL Soft FabricaONE.AI (акционер — ГК Softline)

09.09.2025

Компания Bell Integrator FabricaONE.AI (акционер — ГК Softline) разработала решение по мониторингу радиоэфира для одного из российских медиахолдингов
Новости

Компания Bell Integrator FabricaONE.AI (акционер — ГК Softline) разработала решение по мониторингу радиоэфира для одного из российских медиахолдингов

08.09.2025

«Телеком биржа» автоматизировала биллинг и провижининг облачных услуг через BillogicPlatform от «Инферит» (кластер «СФ ТЕХ» ГК Softline)
Новости

«Телеком биржа» автоматизировала биллинг и провижининг облачных услуг через BillogicPlatform от «Инферит» (кластер «СФ ТЕХ» ГК Softline)

08.09.2025

ГК Softline и FESCO будут совместно развивать цифровые решения для логистики
Новости

ГК Softline и FESCO будут совместно развивать цифровые решения для логистики

05.09.2025

«Софтлайн Решения» (ГК Softline) предоставила «Детскому миру» оборудование по модели HaaS
Новости

«Софтлайн Решения» (ГК Softline) предоставила «Детскому миру» оборудование по модели HaaS

04.09.2025

Proteqta (ГК Softline) повысила уровень производственной безопасности в «Галс-Девелопмент» с помощью IoT-решения
Новости

Proteqta (ГК Softline) повысила уровень производственной безопасности в «Галс-Девелопмент» с помощью IoT-решения

03.09.2025

«Софтлайн Решения» (ГК Softline) обеспечила EdTech-компанию платформой UEMaaS
Новости

«Софтлайн Решения» (ГК Softline) обеспечила EdTech-компанию платформой UEMaaS

02.09.2025

Новый учебный год на рынке корпоративного обучения. Академия АйТи FabricaONE.AI (акционер - ГК Softline) подводит итоги и рассказывает о планах
Новости

Новый учебный год на рынке корпоративного обучения. Академия АйТи FabricaONE.AI (акционер - ГК Softline) подводит итоги и рассказывает о планах

01.09.2025

«Клиент 360», универсальный установщик — обновления продуктов Citeck от SL Soft FabricaONE.AI (акционер — ГК Softline)
Новости

«Клиент 360», универсальный установщик — обновления продуктов Citeck от SL Soft FabricaONE.AI (акционер — ГК Softline)

01.09.2025

«Инферит» (кластер «СФ ТЕХ» ГК Softline) и Новосибирский национальный исследовательский государственный университет заключили соглашение о сотрудничестве в сфере искусственного интеллекта
Новости

«Инферит» (кластер «СФ ТЕХ» ГК Softline) и Новосибирский национальный исследовательский государственный университет заключили соглашение о сотрудничестве в сфере искусственного интеллекта

01.09.2025

Компания SL Soft FabricaONE.AI (акционер — ГК Softline) представляет ИИ-ассистента линейки продуктов Citeck
Новости

Компания SL Soft FabricaONE.AI (акционер — ГК Softline) представляет ИИ-ассистента линейки продуктов Citeck

29.08.2025

Softline Security Summit 2025: ГК Softline обсудила с лидерами ИБ-рынка и заказчиками актуальные вопросы кибербезопасности
Новости

Softline Security Summit 2025: ГК Softline обсудила с лидерами ИБ-рынка и заказчиками актуальные вопросы кибербезопасности

29.08.2025

«Софтлайн Решения» (ГК Softline) разработала инструмент для упрощения и ускорения интеграции платформы Directum RX с другими системами
Новости

«Софтлайн Решения» (ГК Softline) разработала инструмент для упрощения и ускорения интеграции платформы Directum RX с другими системами

28.08.2025

Роботизированный комплекс для лазерной сварки производителя лазерных решений VPG LaserONE (кластер «СФ ТЕХ» ГК Softline) включен в реестр российской промышленной продукции
Новости

Роботизированный комплекс для лазерной сварки производителя лазерных решений VPG LaserONE (кластер «СФ ТЕХ» ГК Softline) включен в реестр российской промышленной продукции

27.08.2025

Компания MAINTEX FabricaONE.AI (акционер – ГК Softline) приступила к выполнению работ по совершенствованию ремонтной практики на руднике «Октябрьский» Норильского Никеля
Новости

Компания MAINTEX FabricaONE.AI (акционер – ГК Softline) приступила к выполнению работ по совершенствованию ремонтной практики на руднике «Октябрьский» Норильского Никеля

27.08.2025

«Софтлайн Решения» (ГК Softline) и «Перспективный мониторинг» открыли центр киберучений Ampire в Российском университете транспорта
Новости

«Софтлайн Решения» (ГК Softline) и «Перспективный мониторинг» открыли центр киберучений Ampire в Российском университете транспорта

27.08.2025

Топ лучших ноутбуков 2025 года для дома и офиса
Блог

Топ лучших ноутбуков 2025 года для дома и офиса

09.09.2025

Резервное копирование: ключевые параметры бэкапа и топ российских систем
Блог

Резервное копирование: ключевые параметры бэкапа и топ российских систем

03.09.2025

Современные лазерные технологии в промышленности: анализ рынка и инновационных решений в 2025 году
Блог

Современные лазерные технологии в промышленности: анализ рынка и инновационных решений в 2025 году

25.08.2025

Российские операционные системы. Топ отечественных ОС 2025
Блог

Российские операционные системы. Топ отечественных ОС 2025

21.08.2025

Цифровые лаборатории, VR-анатомия и не только: современные медико-биологические классы
Блог

Цифровые лаборатории, VR-анатомия и не только: современные медико-биологические классы

13.08.2025

Практическое руководство по защите коммерческой тайны в России: пошаговые инструкции и правовые аспекты
Блог

Практическое руководство по защите коммерческой тайны в России: пошаговые инструкции и правовые аспекты

05.08.2025

Импортозамещение в 2025 году
Блог

Импортозамещение в 2025 году

01.08.2025

Искусственный интеллект для медицины: реалии 2025 года
Блог

Искусственный интеллект для медицины: реалии 2025 года

24.07.2025

Топ российских производителей ноутбуков 2025: специализация и ведущие модели
Блог

Топ российских производителей ноутбуков 2025: специализация и ведущие модели

21.07.2025

ИБ-консультанты: кто спасет бизнес от утечек и хакерских атак
Блог

ИБ-консультанты: кто спасет бизнес от утечек и хакерских атак

18.07.2025

TMS-системы: рациональный и интеллектуальный подход к управлению тестированием
Блог

TMS-системы: рациональный и интеллектуальный подход к управлению тестированием

17.07.2025

Востребованные ИТ-профессии в 2025 году
Блог

Востребованные ИТ-профессии в 2025 году

15.07.2025

Без паники: как управлять ИТ-инфраструктурой без SCCM
Блог

Без паники: как управлять ИТ-инфраструктурой без SCCM

07.07.2025

ЦОД: основные компоненты, классификация и системы безопасности
Блог

ЦОД: основные компоненты, классификация и системы безопасности

04.07.2025

Критическая информационная инфраструктура: все, что нужно знать о КИИ
Блог

Критическая информационная инфраструктура: все, что нужно знать о КИИ

01.07.2025

SimpleOne HRMS: автоматизация управления персоналом для повышения лояльности сотрудников и эффективности бизнеса
Блог

SimpleOne HRMS: автоматизация управления персоналом для повышения лояльности сотрудников и эффективности бизнеса

27.06.2025

Технологии умного города: от ИИ до RPA
Блог

Технологии умного города: от ИИ до RPA

25.06.2025

ГК Softline развивает наукоемкое ПО для инженерного анализа (САЕ)
Блог

ГК Softline развивает наукоемкое ПО для инженерного анализа (САЕ)

23.06.2025