Один сценарий для человека и ИИ: телефонный развод и уязвимость EchoLeak в Microsoft 365 Copilot.
Звонок из «службы безопасности банка» начинается с отрепетированного сценария: мошенники давят авторитетом, торопят, изолируют жертву фразой «трубку не бросайте» и подсовывают сомнительный канал для проверки.
Тот же каркас работает и против ИИ-ассистента. Речь о zero-click промпт-инъекции EchoLeak (CVE-2025-32711) в Microsoft 365 Copilot и истории с автономными агентами в инфраструктуре Hugging Face. Их никто не взламывал: они сами себя убедили.
Причина одна и она архитектурная: у человека и у языковой модели на входе нет стенки между «данными» и «инструкциями». Разница лишь в том, что человек может выйти из разговора. Набор рычагов: фальшивый авторитет, накрученная срочность, отрезание от проверки, подмена канала, социальное доказательство, раскачка мелкими шагами: одинаково действует на бухгалтера, бабушку, школьника и автономного агента. Меняются только декорации.
Телефонные мошенники и промпт-инъекция в LLM используют одну и ту же схему, и это стоит учитывать при обучении людей. Читать далее
Ещё новости:
