Сбер

Senior LLM Engineer

Коротко

Senior LLM Engineer в Сбере: проектирование и вывод в продуктив AI-агентов для корпоративных клиентов — агентные архитектуры, RAG, интеграции с корпоративными системами через API и MCP, построение evals и защита от галлюцинаций и prompt injection. Требуется 5+ лет опыта в разработке ПО и 2+ года работы с LLM и агентными системами, уверенный Python, опыт с LangChain/LangGraph, LlamaIndex, векторными базами данных (Qdrant, Milvus, pgvector). Работа в Москве, гибридный формат, офис на Кутузовской.

Локация
Москва, офис на Кутузовской, 32; гибридный формат работы.
Компания
СБЕР — крупная банковская корпорация, развивающая AI-решения для департамента ключевых клиентов.
Что делать
•Проектировать агентные архитектуры: ReAct, планы-действия, tool calling, мультиагентные схемы и маршрутизацию запросов между моделями и сценариями.
•Разрабатывать и оптимизировать промпты, управлять контекстом и версионировать промпты вместе с кодом.
•Реализовывать RAG с чанкингом, эмбеддингами, векторным и гибридным поиском, реранжированием, метаданными и мультиязычными документами.
•Интегрировать LLM с корпоративными системами через API и MCP-инструменты, поддерживать собственные tools и обрабатывать ошибки и таймауты.
•Строить evals, защищать системы от галлюцинаций и prompt injection, контролировать grounding, качество и стоимость в продакшене.
•Упаковывать агентов в FastAPI/Python-сервисы, заниматься контейнеризацией, CI/CD, секретами и эксплуатацией в банковском контуре.
Требования
•5+ лет опыта в разработке ПО, включая 2+ года практической работы с LLM и агентными системами.
•Уверенный Python и опыт промышленной разработки: тестирование, code review, CI/CD и командная работа.
•Практический опыт с LangChain или LangGraph, LlamaIndex, OpenAI или локальными API, Pydantic и асинхронностью.
•Глубокое понимание RAG, векторных баз данных, включая Qdrant, Milvus или pgvector, эмбеддингов и стратегий поиска.
•Опыт построения evals и оценки качества LLM-систем, а не только разработки демонстрационных промптов.
•Навыки работы с генеративными AI-моделями.
•Опыт вывода LLM-решений в продуктив и их последующей эксплуатации.
•Понимание ограничений моделей: контекста, стоимости, задержек и деградации качества.
Хорошо, если есть
•Опыт fine-tuning: LoRA/QLoRA, SFT/DPO, а также работы с моделями на собственных мощностях.
•Опыт сервинга моделей через vLLM или TGI, оптимизации inference и GPU-инфраструктуры.
•Опыт интеграций с enterprise-ландшафтом: очередями, ESB, MCP и внутренними банковскими сервисами.
•Публикации, доклады, вклад в open-source или опыт наставничества.
Культура и преимущества
•Современный офис в Москве и гибридный формат работы.
•Ежегодный пересмотр зарплаты и годовая премия.
•Корпоративный спортзал и зоны отдыха.
•Обучение для профессионального и карьерного развития.
•Расширенный полис ДМС с первого дня, включая страхование для семьи.
•Ипотечная программа, подписка СберПрайм+, скидки у компаний-партнёров и вознаграждение за рекомендации.

Хватит откликаться.
Получите рекомендацию.

$10 стартовых кредитов

Всего 60 секунд, полностью на автопилоте — AI-агенты Eraldt читают ваше резюме, определяют подходящие роли, находят живые вакансии и людей, которые могут вас порекомендовать, пишут им личные письма и добиваются рекомендации.

Это не отклик на вакансию: резюме не уходит в компанию, а рекомендацию именно по этой роли мы не обещаем.

Посмотрите, кто ещё получает интервью на автопилоте