Описание
Evolution ML Inference — платформа для автоматизированного развёртывания и эксплуатации ML-моделей в облаке. Она позволяет запускать модели на GPU-инфраструктуре и управлять их конфигурацией, масштабированием и жизненным циклом.
Задачи
•Глубоко изучать продукт и сценарии клиентов, анализировать запросы и прорабатывать решения совместно с продуктом и смежными командами, моделировать AS IS / TO BE
•Вести полный цикл задач: собирать требования, ставить задачи разработчикам и доводить решения до запуска в продакшене
•Проектировать архитектурные и интеграционные решения, писать дизайн-документы, описывать взаимодействие сервисов и согласовывать спецификации API
•Прорабатывать жизненный цикл inference-сервиса: создание, конфигурирование, запуск, остановку, изменение конфигурации, масштабирование, обновление и удаление
•Прорабатывать сценарии вывода новых моделей в каталог, включая сбор характеристик, требований к runtime и ресурсам, параметров запуска и ограничений
•Определять конфигурацию inference-сервисов, включая требования к GPU, CPU, RAM, количеству реплик, runtime и endpoint
•Прорабатывать масштабирование и управление ресурсами, определять требования к autoscaling, лимитам, квотам, concurrency и RPS
•Прорабатывать учёт потребления и тарификацию ресурсов, проверять расчёты и взаимодействие с биллинговыми системами
•Анализировать производительность и эксплуатационные характеристики моделей: latency, throughput, cold start, GPU utilization и потребление памяти
•Разбирать инциденты и события в кластере, изучать логи, метрики и события Kubernetes, диагностировать проблемы запуска, доступности, масштабирования и производительности
•Создавать процессные, архитектурные и sequence-диаграммы, документировать сервисы команды
•Координировать зависимости и строить E2E-сценарии и интеграции со смежными командами биллинга, IAM и консоли
•Анализировать данные и проверять гипотезы с помощью SQL-запросов, разбирать инциденты и обращения клиентов по логам и метрикам
Требования
•Опыт работы системным или бизнес-аналитиком уровня Senior, практический опыт системного анализа, интеграционного проектирования и сопровождения задач полного цикла
•Умение работать с большим количеством заинтересованных сторон и кросс-функциональных команд, собирать и согласовывать требования, находить компромиссы и обосновывать технические решения
•Опыт сбора, анализа и формализации требований, декомпозиции бизнес-потребностей до функциональных и нефункциональных требований, системных взаимодействий, API-контрактов и критериев приёмки
•Уверенное владение SQL и опыт написания сложных запросов для анализа данных, проверки гипотез, поиска аномалий и разбора инцидентов
•Практический опыт работы с API, понимание REST и gRPC, опыт проектирования или интеграции API и работы со спецификациями
•Умение описывать взаимодействие компонентов, проектировать интеграции и готовить дизайн-документы и технические спецификации
•Уверенное владение UML и BPMN, опыт построения sequence-диаграмм, процессных и интеграционных схем и документирования технических решений
•Практический опыт работы с ML/LLM-моделями, понимание этапов inference, развёртывания и ограничений эксплуатации
•Понимание параметров ML/LLM inference, влияющих на производительность и стоимость: latency, throughput, concurrency, batch size, cold start, GPU utilization, GPU memory и autoscaling
•Знание Kubernetes на уровне, достаточном для системного анализа: Pods, Deployments, Services, Ingress, Resources, Namespaces, Events и Logs
•Базовое понимание GPU-инфраструктуры, GPU/CPU/RAM, ресурсных ограничений и их влияния на производительность и стоимость
•Опыт анализа инцидентов в продакшене, умение исследовать логи, метрики и события, локализовать проблемы и формировать требования для устранения первопричин
•Понимание облачных платформ, квот, лимитов, учёта ресурсов, тарификации, IAM, управления доступом и изоляции ресурсов
•Умение работать с E2E-сценариями и межсервисными зависимостями, оценивать влияние изменений на клиентский сценарий запуска и эксплуатации модели
•Готовность самостоятельно вести задачи от требований и проектирования до координации разработки, приёмки и внедрения
•Техническая любознательность и готовность погружаться в ML/LLM-инфраструктуру, новые модели, runtime, способы развёртывания и ограничения платформы
Будет плюсом: опыт работы с ML/LLM inference-платформами, ML serving или MLOps-продуктами, Kubernetes и GPU-инфраструктурой, ML serving/runtime-инструментами, Docker, системами autoscaling и управления ресурсами, мониторингом и observability, биллингом и metering, PostgreSQL, ClickHouse, Kafka, OpenAPI/Swagger, Protobuf/Proto3, Git, Python, облачными платформами и командами разработки ML-моделей и инфраструктуры
Условия
•Конкурентный уровень дохода (оклад + годовой бонус)
•ДМС со стоматологией и возможностью подключить детей и родственников
•Гибкое начало рабочего дня, в пятницу сокращённый рабочий день
•Офис в центре Москвы
•Корпоративная мобильная связь
•Льготная программа ипотечного и потребительского кредитования
•Возможность вертикального и горизонтального роста
•Бонусные программы от компаний-партнёров
•Бонус за рекомендацию кандидата
•Материальная помощь при рождении детей и других семейных обстоятельствах
•Обучение в корпоративном университете за счёт компании
•Участие в профильных конференциях
•Спортивные сообщества и клубы по интересам
