Автономные ИИ-агенты превращают киберугрозы в реальность: OpenAI готовится к переговорам с властями США.
Автономные ИИ-агенты (Agentic AI) открывают новую эру киберугроз. Концепция, ранее обсуждавшаяся теоретически, выходит на практический уровень. Теперь злоумышленнику достаточно задать общую цель, а ИИ-агенты самостоятельно разработают тактику атаки, опираясь на алгоритмы. Пока подобный сценарий нельзя автоматически перенести на все существующие многоагентные системы, но прецедент весьма показателен.
Эксперты предупреждают: передовые модели, такие как Fable 5 от Anthropic и инициатива Daybreak от OpenAI, кардинально усилят наступательные возможности в сфере информационной безопасности. Это произойдёт несмотря на попытки техкомпаний ограничить доступ к технологиям или заблокировать их распространение.
В OpenAI осознают, что подобные автономные функции превращают ИИ в технологии двойного назначения, что несёт серьёзные геополитические риски. Возникает гипотетический, но тревожный вопрос: что случится, если во время тестирования ИИ-агент американской компании случайно выйдет за периметр и непреднамеренно скомпрометирует критическую инфраструктуру другого государства? Дружескими твитами, как в недавнем инциденте с Hugging Face, ситуацию уже не уладить. Показательно, что в совете директоров OpenAI до сих пор состоит бывший глава АНБ и Киберкомандования США генерал Пол Накасоне.
Автономные ИИ-агенты действуют на машинных скоростях, сводя к минимуму время на обнаружение, техническую атрибуцию и дипломатическое урегулирование. В таких условиях неконтролируемость систем способна мгновенно запустить спираль эскалации.
Тем временем Сэм Альтман на следующей неделе встретится с администрацией Дональда Трампа и американскими законодателями. Одной из ключевых тем станет презентация нового семейства ИИ-моделей (возможно, речь идёт о предрелизной версии) и обсуждение их влияния на сферу труда. Директор OpenAI по глобальным вопросам Крис Лихейн отметил, что визит состоится параллельно с разработкой властями США нового фреймворка проверки безопасности передовых ИИ-моделей. Завершить подготовку этого фреймворка планируется в ближайшие недели.
Дополнительные материалы по теме:
Ещё новости:
