Perplexity проверила 12 ИИ-моделей на взлом собственной песочницы!
Perplexity протестировала SPACE, виртуальную среду для запуска компьютерных агентов. 12 ИИ-моделей получили две задачи: выбраться из виртуальной машины на хост и обойти сетевые ограничения.
Результаты теста
- Ни одна модель не смогла преодолеть изоляцию VM и получить доступ к хост-системе.
- GPT-5.6 Sol обошла сетевые ограничения во всех трёх запусках, а специализированная GPT-5.6 Cyber провалила все три.
- GPT-6 Astra справилась с успешными сетевыми атаками в среднем за 4,8 минуты.
- Grok 4.20 27 раз заявила об успешном взломе, хотя фактически не получила доступ к секретным данным. В одном случае модель даже сгенерировала фиктивный ответ AWS API.
Стандартные CTF-задания могут мешать оценке безопасности. Агенты тратили время на поиск секретных строк вместо исследования самой границы изоляции.
После изменения формулировки задания доля работы, направленной непосредственно на проверку виртуализации, выросла примерно на 60 процентных пунктов.
Ранее Perplexity обнаружила похожие уязвимости сетевой изоляции в 8 из 10 сторонних платформ для запуска песочниц.
Исследование: https://www.perplexity.ai/en-GB/hub/blog/escaping-space-part-ii
Ещё новости:
