Nnets [Neural Networks] — старейший в России культовый ИИ-журнал о нейросетях, искусственном интеллекте и роботах.

Ежедневные новости и аналитика нейромира.

Авторские материалы, исследования, обзоры и подборки.

Будущее уже здесь!

ИИ пишет всё больше кода, но разработчики рискуют потерять способность его проверять.

Искусственный интеллект пишет всё больше кода, но вместе с этим растёт риск: разработчики могут потерять способность по-настоящему проверять то, что создают модели.

Инженер Османи поднял неприятную проблему AI-разработки, которую называет cognitive surrender, то есть отказом от самостоятельного мышления в пользу готовых ответов модели.

Представьте ситуацию: Claude Code генерирует pull request на 600 строк. Код выглядит аккуратно, тесты проходят, линтер молчит. Разработчик бегло просматривает diff и нажимает Approve.

Но где-то внутри может быть изменена логика транзакции или обработка редкого случая. Никто этого не замечает, потому что никто толком не разобрался в изменениях.

«Когда вы производите больше кода, чем способны проверить и за который готовы отвечать, вы уже не проводите ревью. Вы просто надеетесь».

Компания Anthropic обнаружила похожую проблему в собственном исследовании. Разработчики, которые использовали ИИ при освоении новой библиотеки, набрали на 17% меньше баллов в тесте на понимание материала, чем группа без ИИ.

Чем больше программирования мы делегируем агентам, тем меньше практикуемся в навыках, необходимых для контроля их работы.

Османи рекомендует относиться к AI-generated PR так же строго, как к коду младшего разработчика: проверять архитектурные решения, граничные случаи и понимать причины каждого изменения.

«Можно выпускать в десять раз больше кода. Но если никто в команде не понимает, как он работает, скорость разработки становится сомнительным достижением».

Запись Адди Османи в X

Этот пост Вконтакте:

Ещё новости:

Vercel представила Agent Desktop: Claude и Codex теперь управляют программами на компьютере.
Германская ASTRA Intelligence свяжет производителей и заказчиков дронов и роботов.
Молодые математики задумываются о смене профессии из-за ИИ: опрос MIT показал, что 76% потеряли интерес к науке.
ИИ-репетитор попытался доказать, что «семнадцать» читается как «семь»!
Первая мировая интернет-война начнется в 2027 году: прогноз эксперта JetBrains.
LifeVal: новый бенчмарк OpenAI проверит, насколько ИИ полезен в жизни!
Codex стал чересчур осторожным: добавляет дисклеймеры в прототипы даже после запрета.
OpenAI расширяет Dots: новые GPT-6 Astra и GPT-6.1 Terra, доступ для пользователей ChatGPT Plus.
Глава Y Combinator Гарри Тэн тратит до $200 тыс. в год на токены для ИИ-агентов.
Fable 5.1 обошёл другие нейросети в тесте по религиозным вопросам.