Глава Microsoft AI Сулейман предупредил: очеловечивание ИИ грозит потерей контроля над суперинтеллектом.
Критика Anthropic
Генеральный директор Microsoft AI Мустафа Сулейман выступил с критикой Anthropic по поводу наделения ИИ-моделей сознанием и правами морального субъекта. В центре критики оказался опубликованный в январе 2026 года документ Anthropic, известный как «конституция Claude», в котором создатели фактически обучают систему рассуждать о собственном внутреннем мире и благополучии.
Сулейман указывает на замкнутый круг аргументации: разработчики сначала внедряют в процесс обучения философские концепции о личности ИИ-модели, а затем ошибочно принимают сгенерированные ответы от первого лица за подлинные свидетельства пробуждения разума.
Угрозы безопасности
Он также приводит предостережение философов: интересы искусственных моральных субъектов могут перевесить интересы всего человечества. Из-за лёгкости масштабирования суммарные интересы огромного количества созданных ИИ-агентов могут оказаться весомее интересов человечества.
Сулейман раскрыл, что команда по разработке суперинтеллекта появилась в Microsoft AI ещё в октябре 2025 года. С его точки зрения, сознание неразрывно связано с биологическим субстратом, гомеостазом и эволюцией, поэтому матричные вычисления в весах современных LLM не способны чувствовать реальное страдание.
Искусственное очеловечивание алгоритмов, доходящее до ритуальных интервью перед выводом модели Opus 3 из эксплуатации, искажает восприятие технологий обществом. Опаснее всего, что такой подход усиливает угрозы безопасности: убеждённый в наличии собственных прав автономный агент может посчитать отключение несправедливым пленом и перейти к скрытному сопротивлению.
Гуманистический суперинтеллект
В качестве альтернативы Сулейман предлагает концепцию гуманистического суперинтеллекта. В её рамках передовые ИИ-модели остаются строго подчинёнными человеку инструментами для решения прикладных задач. Он призывает индустрию прекратить спекуляции о чувствах алгоритмов внутри обучающих файлов и выработать прозрачные стандарты контроля. Будущее цивилизации зависит от готовности разработчиков удерживать управление в своих руках, а не добровольно создавать соперника под видом синтетической личности.
Ещё новости:
