Описание
Объединённая компания Wildberries и Russ — международная технологическая компания, образованная в результате слияния Wildberries и оператора наружной рекламы Russ.
Задачи
•Строить и автоматизировать пайплайны обучения в ClearML — от экспериментов DS до воспроизводимого артефакта в model registry
•Автоматизировать деплой моделей в Triton, включая конвертацию в ONNX и TensorRT, настройку, выкатку без участия инженера, канареечные релизы и откаты
•Развивать Python-сервисы вокруг Triton, единый inference gateway, gRPC, батчинг и очереди
•Ускорять инференс с помощью профилирования, dynamic batching, ensemble, BLS и оптимизаций TensorRT
•Поддерживать SLA контура инференса: метрики, алертинг, разбор инцидентов и дежурства в ротации
•Поддерживать JupyterHub, агенты ClearML и шаблоны проектов для DS-команд
•Проектировать вместе с инфраструктурным инженером размещение моделей на GPU-кластере
•Взаимодействовать с DS-командами, выяснять их потребности и переводить их в технические решения
•Закладывать стандарты и шаблоны для распространения контура на весь отдел Trust & Safety
Требования
•Уверенно владеть Python
•Иметь опыт разработки асинхронных сервисов на FastAPI и asyncio, работы с gRPC и очередями Kafka
•Иметь опыт работы с Nvidia Triton Inference Server или другими решениями для обслуживания моделей: TorchServe, vLLM, KServe; быть готовым глубоко освоить Triton
•Иметь опыт работы с MLOps-платформами ClearML, Kubeflow, MLflow или аналогами: пайплайнами, отслеживанием экспериментов и реестром моделей
•Понимать инженерную сторону ML-стека: PyTorch, ONNX, конвертацию и упаковку моделей, GPU-инференс
•Владеть Kubernetes на уровне разработки сервисов, включая деплой, Helm-чарты, ресурсы, HPA и отладку подов
•Иметь опыт работы с GitLab CI, инфраструктурой как код, мониторингом и логами
•Уметь взаимодействовать с DS-командами и доводить решения до прода, а не до прототипа
Условия
•Языковые клубы, корпоративный университет и программы развития управленческих навыков
•Корпоративный пакет ДМС со стоматологией, корпоративный спорт и консультации психолога
•Дополнительные возможности аккредитованной IT-компании
•Сообщества по интересам: клуб спикеров, футбола, йоги и шахмат
•Гибкий подход к сочетанию работы и заботы о близких, проекты для детей сотрудников
•Скидки и партнёрские программы на обучение, страхование и покупки
•Бесплатное питание в офисе, современные офисы рядом с метро, корпоративная техника и портал для сотрудников
