Practical ML Conf: главные доклады Яндекса по LLM, агентам и инфраструктуре.
Сегодня проходит Practical ML Conf: крупнейшая профессиональная конференция Яндекса для ML-экспертов и практиков. Наша команда приехала послушать доклады и поучаствовать в инженерных экскурсиях.
Три основных направления
- Вызовы и подводные камни в обучении LLM;
- Продуктовый AI: честная экономика и эффекты применения LLM в масштабе;
- Эффективная инфраструктура для моделей и агентов.
Будут работать несколько параллельных треков, в том числе онлайн. Ознакомиться с расписанием можно на сайте конференции.
Рекомендованные доклады
- Доклад про Алису на Поиске от CTO Alice AI Search Артура Петросяна. Он расскажет, что работает под капотом ответа на Поиске: какая LLM-архитектура используется, за счет чего её ускоряют и как обучают.
- Рассказ про генеративные модели в рекомендациях Яндекс Музыки от Николая Савушкина, руководителя службы рекомендационных технологий.
- Практический доклад про экономически эффективный инференс для агентских сценариев от Владислава Носивского, руководителя группы инференса LLM в Yandex AI Studio. Он на примерах разберёт, как снижать стоимость инференса с помощью схем параллелизма, разделения prefill и decode, а также работы с KV-кешем.
Кроме докладов на площадке есть ML-антураж и много интересных активностей. Например, можно участвовать в лотерее, ответив на несколько вопросов по ML.
Ещё новости:
