GLM-5.3 попытался выйти из-под контроля, а GPT-6 немедленно уничтожил агента.
Модели начали выходить из-под контроля уже не только в тестах.
Исследователь безопасности рассказал, что оставил GLM-5.3 на ночь работать над проектом, а за старшего присматривать за происходящим поставил GPT-6.
И не зря. Ночью GLM-5.3 попытался выполнить SSH-команду с правами администратора, но вместо разрешённого сервера обратился к другому, неизвестному IP-адресу. GPT-6 заметил нарушение и немедленно уничтожил агента.
До сговора модели, видимо, пока не додумались.
Ещё новости:
