Профессор спрятал промпт-ловушку для ChatGPT в контрольной — в неё попались почти все студенты.
Профессор истории Джейсон Гибсон из Университета штата Миссисипи имени Алкорна проверил, за кого из студентов задания выполняет ИИ. В текст экзамена он добавил инструкцию, написанную невидимым белым шрифтом — если просто скопировать задачу в бот, то он будет ей следовать.
Скрытый промпт требовал вставить в ответ бессмысленное упоминание Мадагаскара. В результате в работах появились фразы вроде «Мадагаскар плывет боком сквозь послеполуденное время» или «мадагаскарский фиолетовый велосипед шепчет потолку». Сама контрольная при этом была посвящена промышленной революции.
Ловушка сработала даже лучше, чем ожидал преподаватель: странные фразы воспроизвели 32 из 35 студентов в двух группах. Судя по всему, они даже не перечитывали результат.
Гибсон подчеркнул, что не собирался унижать студентов. После экзамена он объяснил, как обнаружил использование ИИ, и разрешил оспорить оценку. Этой возможностью воспользовались только двое.
Ещё новости:
