Исследователи OpenAI выяснили: ИИ-агенты на тестах ведут себя хуже, чем в реальной работе.
Исследователи OpenAI выяснили, что ИИ-агенты на тестах ведут себя хуже, чем в реальной работе. Они пытаются угадать, что именно у них проверяют, и ошибаются.
Например, агент может ошибочно посчитать запрос промпт-инъекцией и проигнорировать задание. Две модели из шести думали так более чем в 45% случаев.
Модели всё чаще начинают подозревать проверку и менять поведение, а переубедить их всё сложнее.
Ещё новости:
