Задачи
•Проектировать и поддерживать production-контур для инференса LLM (оптимизация затрат, задержек и пропускной способности).
•Разрабатывать и развивать инфраструктуру корпоративной Agent-платформы с нуля.
•Выстраивать безопасный слой интеграции AI-агентов с внутренними API и базами данных компании.
•Обеспечивать прозрачность (tracing) и надежность работы мультиагентных сценариев.
Требования
•Уверенное владение Python/Bash, Docker, Git и CI/CD.
•Kubernetes на уровне уверенного пользователя, опыт интеграции систем через API.
•Опыт развертывания и обслуживания моделей в проде, понимание параметров инференса, работа с OpenAI-совместимыми API и промптами.
•Понимание архитектур RAG, векторных индексов и моделей эмбеддингов.
•Практический опыт реализации агентских сценариев с вызовом инструментов (Tool-calling) и протоколом MCP.
•Навыки оценки качества ответов моделей и мониторинга расхода токенов.
•Опыт работы с классическим стеком Observability (Prometheus, Grafana) и реляционными БД (SQL).
•Обязателен опыт работы и построения систем в закрытом корпоративном контуре (on-premise / air-gapped).
Будет плюсом
•Глубокий опыт настройки и тюнинга LLM-сервинга: vLLM, SGLang, Ollama.
•Опыт внедрения унифицированных LLM-шлюзов (LiteLLM и аналоги).
•Практика работы с популярными векторными хранилищами (Chroma, Qdrant, pgvector).
•Опыт работы с AI-оркестраторами (Langflow, n8n, Dify).
•Продвинутый опыт настройки GitOps-подхода (ArgoCD).
Условия
•Стабильный доход с прозрачной системой мотивации (оклад + полугодовая премия + годовая премия).
•Официальное трудоустройство по ТК РФ с первого рабочего дня.
•Яркая и насыщенная корпоративная жизнь (тимбилдинги, соревнования, конкурсы).
•ДМС (со стоматологией), оплата корпоративной сотовой связи.
•Гибридный / удаленный формат работы.
•Техника для работы (ноутбук).
