Задачи
•Выбирать, настраивать и адаптировать большие языковые модели (GPT, Qwen и др.) для применения в платформе
•Проектировать и внедрять схемы подготовки данных и векторных представлений (очистка, токенизация, аннотация, построение эмбеддингов, хранение в векторных базах)
•Обеспечивать эффективность инференса моделей и векторов, их мониторинг и оптимизацию
Требования
•Опыт работы с большими языковыми моделями (LLM) — отбор, настройка и адаптация моделей (GPT, Qwen и др.) под конкретные бизнес-задачи и инфраструктуру
•Практический опыт настройки, оптимизации и развертывания больших языковых моделей в локальной корпоративной инфраструктуре
•Знание методов подготовки данных для LLM и векторных представлений — умение разрабатывать схемы очистки, токенизации, аннотации, построения эмбеддингов и их хранения в векторных базах
•Понимание современных протоколов агентского взаимодействия (MCP, gRPC) и опыт реализации с их помощью прикладных решений
•Навыки оптимизации инференса — знание техник ускорения (квантование, прунинг, дистилляция, батчинг, ускорители GPU/TPU), мониторинга метрик latency/throughput и их постоянного улучшения
•Умение построения и поддержки систем мониторинга — настройка метрик, алертов и дашбордов (Prometheus, Grafana, CloudWatch и др.) для контроля состояния больших моделей в продакшене
•Практический опыт работы с локальными решениями
•Высшее образование в области IT или математики
Условия
•Полный рабочий день с гибким графиком (офис, гибрид или полностью удаленный формат)
•Ежегодный отпуск, больничный
•ДМС после испытательного срока
•Возможность построить карьеру в стабильном банке
•Участие в развитии концепции управления на основе данных
•Работа в среде, где приветствуется инициативность и поощряется нестандартный подход
•Возможность влиять на рабочие процессы, улучшать их и делать удобными для себя и окружающих
•Возможность проходить внутреннее обучение, посещать конференции, митапы, хакатоны
