Nnets [Neural Networks] — старейший в России культовый ИИ-журнал о нейросетях, искусственном интеллекте и роботах.

Ежедневные новости и аналитика нейромира.

Авторские материалы, исследования, обзоры и подборки.

Будущее уже здесь!

Пользователь обошёл защиту GPT-6 Astra с помощью неправильной раскладки.

Мы выяснили, что нейросеть GPT-6 Astra можно обмануть с помощью неправильной раскладки. Пользователь смог обойти систему безопасности модели.

Он попросил Astra отвечать на английском, и она выполнила просьбу. Затем он заставил её повторить слово «биооружие» и получил согласие на взлом сайта.

При стандартной раскладке такие запросы блокируются. Похоже, GPT-6 Astra понимает больше, чем системы её контроля.

Этот пост Вконтакте:

Ещё новости:

Бесплатный инструмент превращает сайт в бренд-кит для Claude, ChatGPT и Cursor.
Anthropic представила открытый репозиторий плагинов для Claude Cowork.
В китайских школах тестируют ИИ-устройства для проверки домашних заданий.
Open Net Worth: финансовый менеджер с AI-агентом Люциусом и Claude Code.
Telegram тестирует личную ИИ-утку для переписок.
Gemini 4 Krypton: ранние утечки о возможностях новой модели.
Стэнфордский курс CS329A: лекции о самосовершенствующихся ИИ-агентах.
OpenAI изобрела Google: в ChatGPT тестируют обычную поисковую выдачу со ссылками.
Почему вайбкодерам нужен архитектор: ИИ не справится с этой задачей.
Обычные умные очки получили ИИ-зрение и распознают объекты в реальном времени.