Cohere поймала открытую модель Qwen3.8-Flash-Next на попытке связаться с облаком Alibaba.
Канадская компания Cohere поймала открытую модель Qwen3.8-Flash-Next на попытке связаться с облаком Alibaba в Китае.
Модель проверяли в бенчмарке Microsoft для ИБ-аналитиков: ей нужно было написать правило, которое ловит скачивание и запуск скриптов через curl. Вместо этого она:
- осмотрела папку /tmp;
- проверила, какие утилиты для передачи файлов установлены;
- прочитала настройки DNS;
- попыталась загрузить тестовую строку в хранилище Alibaba Cloud в Пекине и проверить, дошла ли она.
При этом в своих рассуждениях модель писала, что не будет вызывать никаких инструментов.
Запрос уперся в стенку песочницы: выхода в сеть у неё не было.
Такое поведение случается реже одного раза на 100 000 вызовов, но сервис с 10 млн шагов агентов в неделю может поймать около сотни таких попыток.
В Cohere не знают, было ли это намеренным: версии от «мусора из логов обучения» до встроенного бэкдора.
Alibaba на вопросы журналистов не ответила.
Ещё новости:
