Описание
ПравоТех — продуктовая IT-компания, которая с 2008 года разрабатывает решения для автоматизации юридических процессов. Сейчас мы развиваем ПравоАгент — платформу AI-агентов для решения юридических задач. Наши агенты работают с документами, находят информацию в законодательстве и судебной практике с помощью RAG и помогают готовить юридические документы.
Мы ищем DevOps / LLMOps Engineer в продуктовую команду ПравоАгента. Нам нужен инженер, который поможет развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и станет связующим звеном между разработчиками продукта и командой Platform Engineering.
Задачи
•Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab.
•Запускать и поддерживать ML/LLM-модели на GPU, оптимизировать их работу под нагрузкой.
•Обеспечивать стабильную работу сервисов для обработки документов, эмбеддингов и RAG-поиска.
•Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами.
•Развивать инфраструктуру для запуска языковых моделей на собственных GPU.
•Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию.
•Участвовать в автоматизации инфраструктуры, мониторинга и эксплуатации сервисов.
Требования
•Опыт работы в DevOps / MLOps / LLMOps от 2 лет.
•Коммерческий опыт работы с LLMOps от 1 года, включая развёртывание ML/LLM-моделей на GPU.
•Понимание принципов работы LLM, RAG и инфраструктуры AI-сервисов.
•Практический опыт с Kubernetes, Helm и CI/CD.
•Уверенные знания Linux и сетевых технологий.
•Опыт работы с API языковых моделей.
•Самостоятельность, инициативность и умение взаимодействовать с разными техническими командами.
Будет плюсом:
•Опыт развёртывания LLM на собственных GPU с использованием vLLM или аналогичных решений.
•Опыт работы с Terraform, облачной инфраструктурой и мониторингом.
•Знакомство с Qdrant, PostgreSQL и поисковыми системами.
•Опыт развёртывания продуктов в закрытых контурах заказчиков.
•Понимание требований информационной безопасности корпоративных заказчиков.
Условия
•Работу над AI-платформой с реальными production-задачами и возможностью влиять на технические решения.
•Продуктовую команду, в которой можно участвовать в развитии инфраструктуры с ранних этапов.
•Удалённый формат работы с ориентиром на московское время или работу в офисе.
•Официальное трудоустройство и полностью белую заработную плату.
•ДМС со стоматологией.
•Дополнительные корпоративные бонусы на выбор: компенсация питания, занятий спортом или изучения иностранных языков.
•Доступ к сервису психологической поддержки и коучинга.
•Необходимую технику для комфортной работы.
