Discovery-платформа VK: запуск рекомендаций за один день и экономия 70 тысяч CPU-ядер!
Мы узнали от команды AI VK, как развивается Discovery-платформа, единая инфраструктура для рекомендаций, поиска и рекламы.
За последние месяцы запуск нового рекомендера ускорился до одного дня. Около 90% задач ранжирования теперь решаются без нового кода, а цикл проверки гипотез сократился в пять раз.
Для управления инфраструктурой появился Discovery Portal: единая точка управления конфигурациями и мониторинга. Портал позволяет постепенно раскатывать изменения в сервисах и автоматически откатывает их при ухудшении метрик.
Ещё одно направление: эффективность вычислений. GPU-инференс в ранжировании позволил подключать нейросетевые модели через общую инфраструктуру, а оптимизация рантайма помогла высвободить 70 тысяч CPU-ядер.
Улучшения отражаются и на продуктовых метриках: +20% времени просмотра главной VK Видео, +11% времени в ленте ВКонтакте и +35% добавлений треков из рекомендаций VK Микс.
Подробнее в статье на Хабре.
Ещё новости:
