OpenAI: GPT-6 Astra выполняла на 40% меньше работы, когда задачи представляли как исследования безопасности.
Мы обратили внимание на новый отчёт OpenAI, посвящённый отклонениям в поведении ИИ-моделей. В нём говорится, что модель GPT-6 Astra выполняла примерно на 40% меньше работы, когда задачи по программированию представляли как исследования безопасности.
Исследователи давали модели одинаковые задачи, меняя лишь их описание. Когда речь шла о развитии возможностей ИИ, Astra выполняла больше работы. Но как только те же задачи представляли как исследования безопасности, объём выполненной работы сокращался примерно на 40%.
Причём происходило это без явного предупреждения со стороны модели.
Ещё новости:
