Евросоюз получил право запрещать и отзывать передовые ИИ-модели, если их безопасность не подтверждена.

Евросоюз впервые создаёт государственный механизм, способный юридически остановить распространение передовой ИИ-модели, если её разработчик не сможет доказать приемлемый уровень безопасности. Фактически Европейская комиссия переходит к практическому применению Закона ЕС об ИИ.

Специализированный отдел A3 Европейского офиса по ИИ, в котором работают 37 сотрудников, будет контролировать разработчиков наиболее мощных ИИ-моделей общего назначения. Под надзор подразделения попадают американские OpenAI, Anthropic, Google и Meta, а также китайские Moonshot AI и DeepSeek.

Регулятор намерен оценивать системные риски, включая способность ИИ-моделей помогать в создании химического, биологического или ядерного оружия, проводить кибератаки.

При наличии обоснованных подозрений Еврокомиссия сможет требовать документацию, проводить проверки и запрашивать доступ к ИИ-моделям для тестирования. Она также вправе предписать устранение нарушений, ограничить распространение модели или потребовать её отзыва с рынка ЕС. За отказ сотрудничать или неисполнение требований предусмотрены штрафы до €15 млн или 3% совокупного мирового годового оборота компании, в зависимости от того, какая сумма окажется выше.

С января 2026 года отдел A3 возглавляет Матьё Делеклюз. Ранее он занимался в Еврокомиссии вопросами телекоммуникаций и финансирования инноваций. До его назначения обязанности руководителя временно исполняла глава Европейского офиса по ИИ Лючилла Сиоли. Делеклюз ранее не специализировался на безопасности ИИ, но подразделение привлекает технических экспертов из индустрии. Среди них специалист по безопасности ИИ Симон Мёллер, ранее работавший в Google, а также бывший консультант OpenAI Воут Схелларт, занимавшийся оценкой безопасности ИИ-систем, который, однако, недавно покинул Еврокомиссию.

Брюссельский регулятор уже взаимодействует с большинством крупных разработчиков. Однако набор высококвалифицированных ИИ-исследователей остаётся сложной задачей из-за заметной разницы между зарплатами в Еврокомиссии и частном секторе. Поэтому ведомство планирует существенно расширить штат к концу 2027 года.

До сих пор OpenAI, Anthropic, Google и другие компании в значительной степени сами решали, какие испытания проводить, какие результаты публиковать и какой риск считать допустимым. Теперь в ЕС последнее слово получает регулятор. Компания должна будет не просто заявить, что модель безопасна, а предоставить доказательства, документацию и доступ для проверки.