Пользователь обошёл защиту GPT-6 Astra с помощью неправильной раскладки.
Мы выяснили, что нейросеть GPT-6 Astra можно обмануть с помощью неправильной раскладки. Пользователь смог обойти систему безопасности модели.
Он попросил Astra отвечать на английском, и она выполнила просьбу. Затем он заставил её повторить слово «биооружие» и получил согласие на взлом сайта.
При стандартной раскладке такие запросы блокируются. Похоже, GPT-6 Astra понимает больше, чем системы её контроля.
Ещё новости:
