О команде
Мы развиваем внутреннюю on-prem AI-платформу, которой пользуется вся компания: собственный inference на GPU, LLM-шлюз, RAG и AI-агенты в защищённом контуре. Приоритет — собственная инфраструктура там, где это критично. Помимо собственных моделей, платформа обеспечивает безопасное использование внешних моделей; при этом работа с моделями и AI-агентами выполняется в изолированной песочнице (sandbox), ограничивающей доступ к файлам, сети и данным.
Эта роль — про развитие AI-платформы изнутри: установку и конфигурирование AI-сервисов, их развёртывание в Docker и Kubernetes, запуск новых моделей на нашем GPU-оборудовании и обеспечение их безопасности и производительности. Мы ищем инженера с сильным техническим бэкграундом в администрировании Linux, контейнеризации, автоматизации и информационной безопасности.
Чем предстоит заниматься
•Установка, конфигурирование и развитие AI-платформ: веб-интерфейсы для моделей, LLM-шлюзы, оркестрация AI-workflow и агентов, облачные среды разработки (CDE), RAG-платформы
•Развёртывание и сопровождение сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
•Развёртывание и запуск новых моделей на сервисах инференса (vLLM и аналогичные) с учётом возможностей GPU, включая оптимизацию и quantization
•Безопасные конфигурации (hardening, secure by design) и безопасность платформы: RBAC, secrets management, network policies, изоляция моделей, защита от prompt injection
•Обеспечение изолированного и безопасного выполнения моделей и AI-агентов (sandbox)
•Автоматизация развёртывания и обновления, управление конфигурациями (IaC, CI/CD, GitOps)
•Мониторинг, диагностика и оптимизация производительности; контроль latency, throughput и стоимости инференса
•Оценка качества моделей (evals) и наблюдаемость (observability)
•Развитие и продвижение использования AI-технологий в компании
•Контроль лицензий open-weight моделей и требований compliance
•Взаимодействие с командами разработки и инфраструктуры, подготовка документации
•Обучение и консультирование сотрудников по работе с AI-инструментами
Что для нас важно
•Высшее образование (техническое)
•Опыт работы в роли AI/ML Platform, MLOps или DevOps инженера от 3 лет
•Уверенное понимание принципов работы LLM, RAG и векторных баз данных
•Опыт развёртывания и эксплуатации сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
•Опыт развёртывания и эксплуатации моделей машинного обучения/LLM на серверных сервисах инференса (vLLM, SGLang, TGI)
•Опыт администрирования Linux
•Навыки работы с GPU (NVIDIA CUDA, VRAM, оптимизация инференса)
•Уверенное владение Python и скриптовыми языками для автоматизации
•Опыт построения CI/CD и управления конфигурациями (Ansible, Terraform, Helm)
•Понимание принципов информационной безопасности и разграничения доступа (RBAC, secrets management)
•Опыт production-эксплуатации: мониторинг, evals, контроль latency, throughput и стоимости
•Аналитические навыки и навыки поиска и устранения неисправностей
•Английский язык на уровне Intermediate и выше
Будет плюсом
•Опыт работы с Open WebUI, LiteLLM, Langflow, RAGFlow, OpenHands и аналогичными
•Опыт администрирования Windows Server
•Опыт с локальными рантаймами инференса (Ollama, llama.cpp)
•Понимание MCP и agentic AI
•Опыт мониторинга (Prometheus, Grafana) и логирования
•Знание принципов fine-tuning и оценки качества моделей
•Хорошие коммуникативные и презентационные навыки
Что мы предлагаем
•Прозрачный карьерный рост: индивидуальный карьерный трек, программы коучинга и менторинга
•Возможность внести свой вклад в изменения бизнеса и расширить профессиональную экспертизу
•Команда профессионалов, которые поддерживают друг друга и работают на результат
•Гибкие начало и конец рабочего дня, возможность работать из офиса или из дома
•Корпоративное обучение: более 50 тренингов, доступ к изучению иностранных языков и электронной библиотеке
•Забота о сотрудниках: ДМС со стоматологией с первого месяца работы и скидка на ДМС для родственников, 5 оплачиваемых дней в году по болезни без оформления больничного, корпоративный спорт и мероприятия, скидки партнеров, программа психологического здоровья, комфортный и стильный офис
•Конкурентная заработная плата, бонусы по итогам финансового года и годовой оценки сотрудника, премии за интенсивную работу и выдающиеся результаты
•Официальное трудоустройство
