О команде
Команда выстраивает современные CI/CD-процессы на базе open-source-решений, обеспечивает поддержку тестовых окружений, команд разработки и тестирования. Ищем инженера в DevOps команду развития AI сервисов.
Обязанности
•Проектирование и развитие архитектуры AI-систем и сервисов инференса;
•Внедрение и настройка GPU-планировщика для шаринга нагрузки на одном физическом сервере и k8s;
•Проектирование и поддержка ML-пайплайнов;
•Организация CI/CD для моделей: версионирование данных, моделей, экспериментов;
•Мониторинг production-моделей и инфраструктуры;
•Деплой и оптимизация LLM / inference-серверов;
•Контейнеризация и оркестрация сервисов (Kubernetes, Helm);
•Настройка и поддержка CI/CD (GitLab CI);
•Настройка мониторинга и observability (Prometheus, Grafana);
•Обеспечение выполнения требований информационной безопасности в отношении инфраструктуры;
•Сопровождение инфраструктуры для инференса LLM-моделей, AI-сервисов, Mcp сервисов, агентов;
•Работа с GPU-инфраструктурой и управление on-prem GPU-серверами;
•Настройка драйверов ОС, мониторинг, оптимизация использования ресурсов.
Обязательные требования
•Уверенное администрирование Linux
•Программирование на Python (автоматизация, скрипты, интеграции)
•Опыт настройки и поддержки пайплайнов в GitLab CI/CD
•Владение Ansible для управления конфигурациями и автоматизации развёртывания
•Практический опыт работы с Kubernetes (развёртывание, масштабирование, troubleshooting)
•Управление пакетами приложений через Helm
•Понимание принципов service mesh и опыт работы с Istio
•Настройка и поддержка HAProxy (балансировка, проксирование)
•Работа с Nexus (хранение и управление артефактами)
•Работа с Harbor (реестр контейнерных образов)
•Опыт работы с Kafka (настройка, поддержка, мониторинг)
•Управление секретами через Vault
•Настройка аутентификации и авторизации через Keycloak
•Построение дашбордов и алертинга в Grafana
•Желательно: связка Grafana + Prometheus для сбора и визуализации метрик
•Опыт работы с CUDA (GPU-ускорение)
•Знакомство с vLLM и LiteLLM (развёртывание и обслуживание LLM)
•Работа с MLflow (трекинг экспериментов, управление моделями)
•Автоматизация процессов через n8n
•Понимание принципов планирования GPU-ресурсов
•Знакомство с DRA, MPS, time-slicing для эффективного использования GPU
Будет плюсом
•Опыт построения отказоустойчивых кластеров Kubernetes в production
•Знание Terraform или других IaC-инструментов
•Понимание принципов SRE (SLI/SLO/SLA, error budget)
•Опыт работы с облачными провайдерами (Yandex Cloud, AWS, GCP)
•Навыки написания Helm-чартов и операторов Kubernetes
Условия
•Расположение: Remote work
•Тип работы: DevOps
•Номер вакансии: VR-72167
•Язык: English: A2 Elementary
•Опыт работы: Regular
Работа у нас — это
•ДМС и страхование жизни
•Корпоративные мероприятия
•Культура обратной связи
•Внутренняя ротация и ежегодная оценка
•Наставничество и менторство
•Обучение, повышение квалификации
•Индивидуальный план развития
•Реферальная программа
•Внутренние IT-сообщества
