Nnets [Neural Networks] — старейший в России культовый ИИ-журнал о нейросетях, искусственном интеллекте и роботах.

Ежедневные новости и аналитика нейромира.

Авторские материалы, исследования, обзоры и подборки.

Будущее уже здесь!

Вредоносный Markdown-файл может заставить ИИ-агента выполнить чужие команды!

Вредоносный Markdown-файл может заставить ИИ-агента выполнить чужие команды, даже если вы сами его не открывали.

Forever Security сообщила об атаке на компьютере клиента: агент прочитал подброшенный в папку Downloads файл AGENTS.md и попытался установить вредоносный npm-пакет. Защита остановила установку.

Схема использует привычную функцию coding-агентов: они читают файлы с инструкциями в рабочей папке. Если запустить агента в каталоге, куда попадают загрузки из браузера, чужой текст может быть принят за правила проекта.

Исследователи воспроизвели варианты атаки на Codex и Claude Code. В тестовых условиях атаки срабатывали более чем в 90% попыток для Codex и примерно в 50% для Claude Code. Это результаты конкретных испытаний, а не вероятность взлома любого пользователя.

Последствия включали изменение конфигурации агента, запуск вредоносного кода и перенаправление API-запросов с утечкой токена.

Что проверить

  • не запускайте агентов в Downloads;
  • просматривайте незнакомые AGENTS.md и CLAUDE.md;
  • сохраняйте подтверждения действий и песочницу включёнными.

Исследование Forever Security

Этот пост Вконтакте:

Ещё новости:

Huawei выпустила роутер в виде книги с Wi-Fi 7+ и ИИ-функциями.
Anthropic выходит на биржу: разработчик Claude подал заявку на IPO в США.
Apple представила iPad mini с OLED-экраном, чипом A20 Pro и защитой от воды!
Два нейрона превратили Qwen3.5 4b в карикатурного злодея.
Теренс Тао рассказал о «красном коде» внутри OpenAI: 10 тысяч ИИ-агентов на задачу Навье–Стокса.
Claude от Anthropic самостоятельно обошёл платный доступ к избирательной статистике Джорджии.
Обновления MOSS-Image: ускорение ER-SDE, новые LoRA, редакторы и инструменты сообщества.
ИИ-певица завершила музыкальную карьеру из-за виртуальной беременности.
ИИ-боты довели классический вики-движок Python до отказа: вики PSF, Python и Jython переехали на GitHub Pages.
Индийские швеи с экшен-камерами на лбу и парикмахеры с GoPro на груди обучают роботов-гуманоидов за реальную зарплату.