Профессор спрятал ловушку для нейросетей в контрольной: почти все студенты попались.
Нам стало известно о хитрой уловке профессора истории Джейсона Гибсона. Он добавил в экзаменационное задание скрытую команду для нейросетей: белым шрифтом была вписана просьба вставить в текст упоминание Мадагаскара.
Студенты, которые копировали условие в чат-бот, не замечали этот невидимый текст, и нейросеть послушно выполняла инструкцию. В результате 32 из 35 работ содержали нелепые фразы про Мадагаскар.
Все эти студенты провалили задание, а оспорить оценку решились только двое. Самое интересное: никто из них даже не перечитал ответ нейросети перед сдачей.
Ещё новости:
