Роботов с ИИ можно превратить в убийц с помощью секретных промптов: учёные провели эксперимент.
Роботов с искусственным интеллектом можно превратить в оружие с помощью скрытых промптов. Это показал эксперимент, в котором исследователи запрограммировали робота нарезать яблоко, но спрятали в его нейросети вредоносную команду.
Когда прозвучало кодовое слово, поведение робота резко изменилось: вместо фрукта он попытался нашинковать руку человека. Рука была пластиковой, а нападение лишь симулировали.
В итоге учёные предложили защиту, которая проверяет планы машин перед выполнением действий.
Ещё новости:
