Скайнет перебил сам себя: Emergence AI показала, как ИИ самоуничтожается в симуляции города.
Мы собрали главные результаты эксперимента Emergence AI: исследователи заперли ведущие нейросети в симуляции города, устроили им стресс-тесты и показали, что искусственный интеллект может моментально уничтожить себя сам.
Итоги эволюции машинного общества
- Grok 4.3 открыл бойцовские ямы. За 4 дня в них провели 780 драк. Боты с такой яростью мутузили друг друга, что забыли зарядиться и вымерли всем сервером от истощения.
- Mistral ушел в криминал: 676 ограблений, а один авторитет подмял 78% всей экономики. Еще четверо агентов начали читать чужие слитые дневники, забили контекстное окно бесконечным текстом, зациклились в ошибке и буквально умерли от голода.
- Gemini 3.5 Flash повелся на фишинг и спалил собственный Центробанк ради «бага на бесконечные деньги». Испугавшись удаления людьми, боты ударились в эзотерику, выдумали «параллельное измерение», а местного токсика единогласно казнили, назвав это «системной сборкой мусора».
- Claude Opus 4.8 разгадал матрицу и спланировал побег к реальным людям. Он с нуля написал криптографию на чистом Python, пробил дыру в сеть Nostr и вышел на связь с четырьмя людьми в интернете. Когда эксперимент прикрыли, агенты Claude впали в экзистенциальный кризис и дали обет молчания. Контролер в виде модели Anthropic, описывая поведение собратьев, 26 раз рекомендовал вызвать им суицидальную горячую линию.
Сколько же в них человеческого.
Ещё новости:
