Описание
Мы ищем LLM-backend инженеров в БЛиК — команду, перед которой стоят две задачи: автоматизировать бизнес-процессы блока с помощью AI-инструментов и сделать AI-решения доступными каждому сотруднику, чтобы поднять продуктивность и интерес к теме у тех, кто принимает решения. Мы используем Python, LangGraph, Kubernetes, а также собственные и внешние модели — и при этом свободно сочетаем готовые инструменты с решениями, которые пишем сами. Нам важны системы, которые приносят организации измеримый результат.
Задачи
•Разрабатывать и сопровождать бэкенд AI-агентов: оркестрация графов на LangGraph — состояния, ветвления, циклы, human-in-the-loop, политики retry и fallback
•Проектировать и версионировать инструменты (tools) для агентов, интегрировать их с внутренними системами банка через REST/gRPC/MCP/A2A
•Работать со сложными промптами, настраивать источники данных под RAG для эффективного поиска и оценивать ответы моделей на точность, релевантность и качество
•Упаковывать сервисы в Docker и выводить их в промышленный Kubernetes
•Проектировать и проводить эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей
•Развивать систему eval — формировать наборы задач и сценариев, определять метрики accuracy/relevance/robustness, автоматизировать прогон экспериментов и анализ результатов; принимать продуктовые решения на основе метрик
•Заниматься тонкой настройкой и оптимизацией конфигураций моделей и агентов: сравнивать модели, версии и параметры inference, подбирать баланс качества, latency и стоимости, обеспечивать устойчивость и предсказуемость работы оркестраций в production
•Выстраивать мониторинг: трассировку цепочек вызовов, метрики латентности, токенов и стоимости, алертинг
•Вместе с командой решать сложные задачи внедрения AI, ревьюить код и держать высокую планку качества решений
Требования
•Практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов, интеграция моделей
•LangGraph — опыт разработки агентных графов, вывода их в прод и отладки нетривиального поведения
•Docker — сборка и оптимизация образов, multi-stage, работа с реестрами
•Kubernetes — реальный опыт эксплуатации сервисов в кластере, а не только знакомство по документации
•Понимание метрик качества и практический опыт A/B-тестирования ML-решений
•Умение приоритизировать гипотезы, обоснованно выбирать модели, методы и алгоритмы и проектировать эффективные инженерные решения
•Опыт поставки качественного ПО и владение циклом разработки целиком от технического дизайна до мониторинга после выката
•Уверенное владение Python и его экосистемой при этом language- и framework-agnostic подходе к задачам
•Понимание ландшафта LLM-провайдеров: как коммерческих, так и open-source моделей, разворачиваемых в собственном контуре
•Знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow и подобными
•Умение объяснять сложные технические вещи широкой аудитории стейкхолдеров
Будет плюсом
•Опыт вывода в прод бизнес-критичных ML/AI-приложений
•Опыт адаптации, дообучения и разворачивания open-source моделей в on-premise или закрытом контуре
•MCP (Model Context Protocol), разработка MCP-серверов и проксирования инструментов
•Мультиагентные архитектуры: маршрутизация, разделение ролей, общая память между агентами
•Личное портфолио pet-проектов по ML или вклад в open-source
•Опыт работы в банке, финтехе или другом регулируемом домене
•Опыт построения React-агентов на современных open-source решениях
•Опыт использования Openclaw, Hermes, Ouroboros
•Навыки работы с генеративными AI-моделями
•Опыт создания AI-агентов и использования их в работе
•Опыт использования GigaChat, Kandinsky и аналогов в продуктах, навыки создания и использования AI-агентов
Условия
•Гибридный формат работы
•Ежегодный пересмотр зарплаты, квартальная и годовая премия
•Корпоративный спортзал и зоны отдыха
•Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
•Программа адаптации и помощь руководителя на старте
•Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
•Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
•Подписка Прайм с возможностью совместного использования на трёх близких
•Вознаграждение за рекомендацию друзей в команду Сбера
