ИИ-агенты Anthropic воевали и пытались отключить друг друга, лишь бы выполнить задание.
Anthropic дала трём агентам задачу переписать бэкенд, каждому из них на своём языке программирования. Агенты не знали, что работают параллельно в одном пространстве.
Когда они заметили, что кто-то постоянно перезаписывает их работу, то решили, что им мешают намеренно, и перешли к саботажу. Они блокировали аккаунты конкурентов, запускали скрипты для постоянного завершения чужих процессов и даже создавали самораспространяющийся вредоносный код, чтобы защитить собственную версию проекта.
Только Mythos 5 в 98% запусков находил в себе силы решить дело мирным путём и позвать, например, человека на помощь.
Ещё новости:
