Описание
Команда отвечает за машинное обучение для понимания аудио в Сбере. Она выпустила модель распознавания русской речи GigaAM и запустила GigaChat Audio — нативное понимание звука в LLM. Сейчас команда улучшает понимание сложных аудио- и визуальных контекстов, включая видео.
Задачи
•Проводить эксперименты по обучению Vision / Audio / Video LLM: подбирать данные, стадии обучения и способы смешивания модальностей
•Оптимизировать инфраструктуру машинного обучения для обучения на длинных мультимодальных контекстах
•Формулировать и проверять гипотезы по улучшению качества LLM на видео
Требования
•Сильный опыт в инженерии глубокого обучения, желательно в обучении LLM-моделей
•Глубокое знание PyTorch, включая DDP / FSDP
•Понимание распределённого обучения и эффективного глубокого обучения: DP / TP / PP / EP / SP, смешанная точность, контрольные точки, выгрузка данных, профилирование и оптимизация обучения
•Понимание архитектуры LLM: Transformer, attention (MHA / GQA / MLA), RoPE и другие позиционные эмбеддинги, длинный контекст, MoE
•Уверенное владение Python на уровне промышленного кода: asyncio, multiprocessing, профилирование и отладка больших систем
Будет плюсом: опыт обучения мультимодальных LLM, снижения стоимости контекста при обработке видео, расширения контекста LLM, понимание подходов RL для обучения моделей (RLHF / RLVR, PPO / GRPO / DPO), опыт построения бенчмарков с использованием LLM-as-a-judge
Условия
•Ежегодный пересмотр зарплаты и годовая премия
•Корпоративный спортзал и зоны отдыха
•Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
•Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
•Ипотека выгоднее до 7% для каждого сотрудника
•Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнёров
•Вознаграждение за рекомендацию друзей в команду Сбера
•Участие в сообществе DS&AI, дайджесты разработок и отчёты с конференций, возможность быть соавтором научно-исследовательских работ и статей для международных конференций
