Описание
Крупная AI-платформа развивает экосистему агентных решений: каталог AI-агентов, мультиагентные системы, конструктор воркфлоу, реестр промптов и безопасный доступ к локальным и внешним LLM. Команда создаёт инфраструктуру и инструменты для запуска AI-продуктов, работая с GPU, инференсом, оркестрацией агентов и безопасностью LLM.
Задачи
•Развивать и поддерживать Kubernetes-инфраструктуру для AI/LLM-сервисов, включая GPU-нагрузки и инференс моделей
•Строить и автоматизировать CI/CD и GitOps-процессы для быстрой и безопасной доставки AI-компонентов
•Разворачивать и сопровождать стек observability для LLM: метрики, трейсинг, логи, мониторинг latency, токенов и стоимости
•Обеспечивать безопасность и изоляцию: управлять секретами, RBAC и сетевыми политиками, защищать пайплайны от prompt injection и утечек данных
•Работать в плотной связке с ML/AI-командами: помогать с инференсом, векторными хранилищами, оркестрацией агентов и масштабированием
Требования
•От 4 лет опыта в DevOps, Platform, MLOps или Infrastructure Engineering
•Опыт работы с Kubernetes в продакшене, Helm и операторами
•Знание IaC: Terraform, Terragrunt и Ansible
•Опыт с GitLab CI, Argo CD и GitOps
•Знание Prometheus, Grafana, VictoriaMetrics, ELK/EFK и алертинга
•Опыт управления секретами и обеспечения безопасности с Vault, Keycloak, RBAC и сетевыми политиками
•Опыт работы с AI/LLM-нагрузками: GPU-инфраструктурой NVIDIA, CUDA, MIG, инференсом LLM через vLLM, TGI или Triton, векторными БД Qdrant, Milvus или pgvector
•Понимание MLOps-стека: MLflow, DVC, ClearML, Kubeflow или аналогов
•Знание Python для автоматизации и обвязки сервисов
•Будет плюсом: опыт с LLM-мониторингом Langfuse, LangSmith или Arize, OpenAI-совместимыми шлюзами LiteLLM, понимание agentic-архитектур, RAG, prompt injection и guardrails, опыт в банке, финтехе или cloud-провайдере
Условия
•Официальное оформление по ТК РФ
•Компания имеет ИТ-аккредитацию
•Оклад и годовой бонус
•ДМС со стоматологией
•Много возможностей для профессионального роста
