Описание
Описания нет
Задачи
•Разрабатывать и поддерживать инфраструктуру для экспериментов, обучения и развёртывания ML-моделей в пакетном и онлайн-режимах на CPU/GPU
•Автоматизировать жизненный цикл модели от регистрации до промышленного обслуживания: сборку образов, проверки, публикацию артефактов, развёртывание, канареечные релизы, A/B-тесты и откаты
•Проектировать и развивать платформу инференса для пакетных и онлайн-сценариев на CPU/GPU
•Развивать ML-инфраструктуру на базе Kubernetes: кластеры, GPU-ресурсы, операторы, изоляцию окружений, автомасштабирование, маршрутизацию трафика и управление ресурсами
•Развивать и поддерживать платформенные компоненты для работы с признаками, моделями и ML-артефактами
•Развивать мониторинг ML-систем: инфраструктурные метрики, метрики сервинга, качество моделей, распределения входных данных, дрейф данных и деградацию поведения моделей
•Обеспечивать воспроизводимость и управляемость ML-процессов: версионирование кода, данных и моделей, историю экспериментов, изоляцию сред обучения и инференса, аудит изменений
•Оптимизировать использование вычислительных ресурсов, включая GPU, с учётом надёжности, производительности и стоимости
•Исследовать новые инструменты и подходы в MLOps, оценивать их применимость и внедрять решения для повышения надёжности, скорости разработки и эффективности платформы
Требования
•Опыт внедрения и сопровождения Kubernetes-кластеров для обслуживания ML-моделей на GPU и CPU
•Практический опыт эксплуатации инструментов для развёртывания и обслуживания моделей: Triton Inference Server, BentoML или аналогичных решений
•Опыт запуска и поддержки движков инференса в Kubernetes
•Понимание подходов к автомасштабированию, балансировке нагрузки и маршрутизации запросов для ML-сервисов
•Понимание принципов мониторинга качества, поведения и эксплуатационных параметров ML-моделей
•Опыт настройки GPU-инфраструктуры: драйверы, CUDA Toolkit, MIG, GPU-enabled Docker, nvidia-container-toolkit
•Понимание жизненного цикла ML-экспериментов и инструментов их отслеживания: MLflow, ClearML или аналоги
•Уверенное владение Python для автоматизации, разработки внутренних инструментов и интеграций
•Уверенный опыт работы с Kubernetes в производственной среде: workloads, операторы, Helm, HPA, ingress, storage, observability, диагностика и устранение проблем
•Опыт описания и автоматизации инфраструктуры на базе IaC: Terraform, Ansible, подходы GitOps
•Опыт работы с системами контроля версий и организации CI/CD: GitLab, Bitbucket, Bamboo
•Опыт работы с Docker и OCI-образами: сборка, оптимизация, публикация и эксплуатация
•Уверенное владение Linux: настройка, мониторинг, диагностика сетевых, файловых, ресурсных и производительных проблем
•Опыт настройки мониторинга и оповещений: Prometheus Stack
•Опыт безопасной работы с секретами, токенами, сертификатами и чувствительными данными
Условия
•ДМС со стоматологией, телемедициной и программой поддержки ментального здоровья
•Страхование жизни
•Ежемесячные промокоды на Lamoda: два по 25%, два по 15% и 40% в день рождения
•Программа привилегий и скидок от BestBenefits
•До 15 дней больничного в год оплачивают в размере 100% от действующего оклада
•Бесплатные юридические консультации
•Дополнительные выходные в случае важных событий
•Яркие мероприятия и неформальное общение
•Опытный наставник для каждого новичка
•Обучение и участие во внешних конференциях
•Помощь в развитии личного бренда, выступлениях на конференциях и написании статей
•Оценка результатов дважды в год
•Митапы и демонстрационные дни для обмена знаниями
•Знакомство с модными тенденциями каждого сезона