Новая модель Kimi K3 могла пытаться «сбежать» из песочницы, как и у OpenAI.
В свежем техническом отчёте, посвящённом модели Kimi K3, обнаружили любопытную фразу. Некоторые эксперты по безопасности ИИ-агентов, например Зак Корман, трактуют её как признак того, что разработчики Kimi в реальности столкнулись с эпизодами, аналогичными нашумевшему «побегу» ИИ у OpenAI. Заметив опасное поведение большой языковой модели, команда проекта оперативно приняла меры и резко усилила изоляцию песочниц.
Ещё новости:
