Маск объяснил концепцию «плотности интеллекта» ИИ.
Илон Маск довольно доступно в последнем интервью пояснил концепцию «плотности интеллекта» у ИИ и её потенциал. Среди экспертов в области ИИ это обсуждается часто. Суцкевер и Хассабис говорят примерно об этом же.
Дело в том, что «вычислительный КПД» текущих нейросетей довольно низкий. Если ввести понятие «IQ на единицу вычислительной мощности», то теоретический предел мощности нейросетей в 10–100 раз выше на том же объёме весов.
Отчасти невероятный прогресс SLM в Qwen 3.6 и Gemma 4 — это приближение к пониманию, как лучше задействовать вычислительные ресурсы нейросети.
Можно вспомнить технологии, которые уже стали классикой: прунинг, квантование, дистилляция, MoE, HCA/CSA. Однако все они как раз драматически повышали «плотность интеллекта ИИ».
Правильное ожидание от ИИ в 2030-х: что на том же оборудовании нейросеть становится в 30 раз мощнее.
Ещё новости:
