ИИ-агенты лишают разработчиков общего языка и понимания систем, предупреждает создатель Flask.

Глава OpenAI Сэм Альтман в этом году принял участие в «летнем лагере миллиардеров», который Allen & Co каждый июль проводит в Айдахо. По словам Альтмана, на конференции ему раз за разом задавали один вопрос: как сократить расходы на токены?

Токенмаксинг стал одной из главных проблем внедрения ИИ. Подталкивая сотрудников использовать новую технологию, компании начали всячески стимулировать расход токенов, и столкнулись с тем, что сотрудники просто стали «максить» эту метрику. С помощью ИИ выполнялась любая ерунда, не важно, приносит она результат или нет. Для бизнеса это вылилось в огромные счета за токены. Токенмаксинг придушат в ближайшие месяцы: компании уже вводят строгие системы оценки, где смотрят на результат, а не количество израсходованных токенов. А тем временем создатель Flask Армин Ронахер в эссе The Tower Keeps Rising предупреждает: за скачком трат на токены компании не видят более серьезную проблему.

Ронахер сам глубоко занимается агентной разработкой и согласен, что ИИ радикально ускоряет написание кода. Но он напоминает, что большие проекты редко упираются в скорость написания кода: они упираются в общее понимание системы, границы, архитектуру. Это понимание нигде не записано целиком: оно прячется в код-ревью, созвонах, необходимости пойти и задать вопрос коллеге из соседнего отдела. То есть живет в трении.

Агенты это трение убирают: каждый правит систему со своим персональным переводчиком, а разговаривать с людьми больше и не нужно. Код компилируется, тесты проходят, однако команда постепенно перестает понимать, что строит. Ронахер сравнивает ситуацию с притчей о Вавилонской башне: в Библии у людей отняли не кирпичи и технологию, а общий язык, на котором они общались, и стройка встала. Сейчас ситуация даже хуже: общее понимание уже ушло, но стройка не останавливается, и башня из кода продолжает расти.

Красивая фраза из эссе: «агенты не чувствуют боли, боль чувствуют только люди». Раньше боль от непонятного кода заставляла людей договариваться, агенту же все равно. У эссе Ронахера открытый финал. Он не предлагает какого-то решения, не дает прогнозов, а только подсвечивает проблему.

Трение с моделью вместо трения с оригиналом

Редакция иллюстрирует проблему собственным примером: ссылку на эссе Ронахера мы увидели в новостной подборке, которую каждое утро присылает ИИ-агент. Краткое содержание показалось интересным, поэтому ссылку закинули в Claude Fable 5 с инструкцией пересказать текст тезисно, найти пересечения с другими материалами и предложить углы подачи. Получилось именно то, о чем предупреждает Ронахер: мы убрали трение. Им было бы прочтение эссе на английском языке, проверка источников, поиск альтернативных мнений. Вместо этого трение с оригиналом заменили на трение с моделью.

Циклы loop engineering и ловушка для людей

Трение с ИИ также находится в зоне риска. Разработчики активно используют loop engineering — настройку циклов, новый способ выполнения задач нейросетями, применяемый создателями Claude Code и OpenClaw. Суть простая: чтобы выполнить поставленную задачу, ИИ промптит сам себя, раз за разом улучшая процесс. Главная проблема циклов: они ломаются, если не настроить правильно оценку результата, а это обычно происходит, когда из процесса исчезает живой человек, то есть уходит то самое трение. Зато правильно настроенный цикл с человеческим участием заметно повышает эффективность ИИ на многих задачах, причем не только в коде: умение строить циклы помогает и при работе с контентом, офисными задачами и даже при диалоге в чат-боте.