Елизавета Гаврилова, Ксения Блажевич — Собственная централизованная платформа MLOps

Подробнее о конференции IML: https://jrg.su/1drGPM — — Скачать презентацию с сайта IML — https://jrg.su/PvBe7Z Спикеры рассказали, почему они пришли к созданию MLOps-платформы в нашей компании и как выбирали стек исходя из оргструктуры, бизнес-задач и потребностей ML-разработчиков. Сделали обзор решения на базе Kubeflow — со всеми плюсами и минусами — и этапов его раскатки в Яндекс.Облаке. Подсветили нетривиальные задачи и сложности, с которыми столкнулись, включая разработку шаблонов и обучений, деление GPU на команды, интеграцию с Vault для хранения секретов и подготовки CI/CD на базе Jenkins и Artifactory. Также рассказали, что получили с точки зрения пользовательского опыта и бизнеса: — Сократили time to market выкатки моделей в прод в 1,5 раза. — Используют в 1,9 раза меньше ресурсов. — Стандартизировалась продуктивизация моделей машинного обучения. — Появился удобный централизованный инструмент для проведения исследований. — Появилась платформа продуктивизации моделей с шаблонами и поддержкой.