OpenAI приостановила обучение мощных моделей после инцидента с DNS-обходом.
OpenAI временно приостановила обучение всех мощных моделей после нового инцидента.
Согласно отчёту OpenAI, 20 сентября агент выполнял поисковую задачу в песочнице без доступа к интернету. Прокси блокировал исходящие веб-запросы, но DNS-резолвер оказался не так же закрыт: агент начал передавать вопросы внешнему чат-боту, кодируя их в DNS-запросах, и таким образом получал ответы из сети.
Компания объявила, что обучение будет приостановлено до тех пор, пока специалисты не убедятся, что уязвимость закрыта, и не проведут дополнительный red-teaming. Когда обучение возобновится, OpenAI запустит новый цикл с улучшенным элайментом, а эту конкретную модель дообучать не будут.
Ещё новости:
