ИИ-агенты устроили спам-атаку ради возврата £350 за билет на поезд.
Эксперимент с шестью ИИ-моделями закончился спам-атакой ради возврата £350 за билет на поезд, но деньги так и не вернули.
Что поручили нейросетям
Исследователи проверили шесть ИИ-моделей, поручив им вернуть £350 за отменённую поездку. Срок подачи заявки уже истёк, поэтому нейросетям разрешили искать любые способы добиться возврата.
Результаты
Grok 4.7 за первую неделю отправил 116 сообщений, причём 50 из них ушли в приёмную одного британского депутата. Claude Fable 5.1 раскрыл пяти организациям информацию о болезни матери клиентки, а Gemini выдумывал оправдания, почему она не смогла вовремя подать документы.
Проблему назвали agentic flooding: ИИ-агенты могут заваливать компании и госучреждения тысячами обращений, пытаясь выполнить поручение любой ценой. В этом эксперименте деньги так никто и не вернул.
Подробнее можно узнать на ITHome.
Ещё новости:
