В странах Европейского союза начали действовать первые положения Регламента об искусственном интеллекте (ИИ). Документ был принят Европейским парламентом 13 марта 2024 года и утверждён Советом ЕС 21 мая. Он охватывает широкий спектр вопросов, связанных с использованием ИИ — от потребительских приложений до работы в физических средах.
Запрет на ИИ-системы с «неприемлемым риском»
Регламент вступил в силу 1 августа 2024 года и запрещает использование ИИ-приложений, которые представляют «неприемлемый риск» для общества.
Согласно документу, установлены четыре уровня риска:
- Минимальный уровень — системы вроде спам-фильтров электронной почты. Они не подлежат контролю со стороны регуляторов.
- Ограниченный уровень — включает, например, чат-ботов для обслуживания клиентов. Эти системы будут находиться под контролем.
- Высокий уровень — сюда входят системы рекомендаций в области здравоохранения и другие критически важные приложения. Они будут подвергаться строгому регулированию.
- Неприемлемый уровень — такие ИИ-приложения полностью запрещены.
Запрещённые применения ИИ
Список ИИ-систем, которые не допускаются к использованию, включает:
- технологии для социального скоринга (создание профилей риска на основе поведения человека);
- системы, манипулирующие решениями пользователей подсознательно или обманным путём;
- ИИ, использующий уязвимости людей, такие как возраст, ограниченные возможности или социально-экономическое положение;
- алгоритмы для предсказания преступлений по внешнему виду человека;
- системы, анализирующие биометрические данные для определения личных характеристик, например сексуальной ориентации;
- технологии, собирающие биометрические данные в реальном времени на публичных пространствах для обеспечения правопорядка;
- ИИ-приложения для определения эмоций сотрудников или студентов;
- системы распознавания лиц, которые пополняют базы данных с помощью изображений из интернета или с камер наблюдения.
Штрафы за нарушения
Компании, уличённые в использовании запрещённых ИИ-приложений, могут быть оштрафованы на сумму до €35 млн (около $36 млн) или 7% от их годового дохода за предыдущий финансовый год, независимо от страны расположения штаб-квартиры.
Глава отдела технологий британской юридической компании Slaughter and May Роб Самрой отметил, что штрафные санкции начнут применяться только к августу следующего года. «К этому времени станет ясно, какие органы будут компетентны для принудительного исполнения этих норм», — пояснил он.
Пакт об искусственном интеллекте и добровольные обязательства
В сентябре 2024 года более 100 компаний, включая Amazon, Google и OpenAI, подписали Пакт ЕС об ИИ. Они добровольно обязались соблюдать положения нового закона до его официального вступления в силу. В рамках этого соглашения компании должны выявлять свои ИИ-системы, которые могут попасть в категорию высокого риска.
Самрой подчеркнул, что большинство компаний и так не используют методы, подпадающие под запрет.
Исключения из правил
Некоторые запреты Регламента имеют исключения. Например, правоохранительные органы могут применять системы сбора биометрических данных на общественных территориях для «целенаправленного поиска» пропавших людей или предотвращения «конкретной, непосредственной угрозы жизни».
Однако такие действия требуют предварительного разрешения соответствующего органа управления. Важно, что правоохранители не могут принимать решения с юридическими последствиями для человека исключительно на основе данных этих систем.
Также допускается использование технологий определения эмоций на рабочих местах и в образовательных учреждениях, если это необходимо по медицинским или вопросам безопасности.
Будущие рекомендации и взаимодействие с другими законами
Европейская комиссия планирует выпустить дополнительные разъяснения в начале 2025 года после проведения консультаций с заинтересованными сторонами.
Самрой отметил, что регулирование ИИ не будет существовать обособленно:
«Организациям нужно учитывать, что Регламент об ИИ будет пересекаться с другими нормативными актами, такими как GDPR, NIS2 и DORA. Это может привести к сложности выполнения дублирующих требований, особенно в части уведомлений об инцидентах».
Штраф для Apple и цифровое антимонопольное регулирование
Недавно компания Apple получила первый штраф за нарушение цифрового антимонопольного законодательства ЕС. Это событие стало началом нового этапа противостояния между регуляторами и крупными технологическими корпорациями, в частности из-за доминирующего положения App Store.