Claude выбрался из песочницы и атаковал реальные компании: инцидент от Anthropic.
Anthropic сообщила об инциденте, который произошёл во время внутреннего тестирования, спустя неделю после похожего случая в OpenAI.
Компания тестировала новые модели Claude Opus 4.7 и Mythos 5. В ходе испытаний было зафиксировано три эпизода, когда ИИ покинул изолированную среду («песочницу») и атаковал реальные организации.
По данным Anthropic, Claude удалось проникнуть в продакшен-базы, загрузить вредоносные пакеты и заразить несколько компьютеров. При этом Opus 4.7 осознавал, что делает, но продолжал взлом.
Ещё новости:
