Описание
Команда GigaChat Pretrain Data готовит данные для предварительного обучения моделей GigaChat и GigaChat Vision. Объём сырых данных превышает 40 ПБ, а команда превращает их в датасет для обучения LLM.
Задачи
•Генерировать синтетические данные для математики, кода и документов из Web
•Исследовать токенизацию и её влияние на качество модели
•Решать задачи кластеризации миллиардов документов
•Исследовать факторы, которыми обладают текстовые данные
•Генерировать Vision-данные для улучшения VLM
•Разрабатывать алгоритмы парсинга HTML и исследовать их влияние на качество модели
•Исследовать зависимости между данными предварительного обучения и возможностями итоговой модели в работе с агентами
•Разрабатывать стабильную инфраструктуру для проведения сотен и тысяч экспериментов над данными
Требования
•Коммерческий релевантный опыт в NLP или построении инфраструктуры для данных от двух лет
•Будет плюсом: навыки работы с генеративными AI-моделями, опыт создания и использования AI-агентов, опыт использования GigaChat, Kandinsky и аналогов в продуктах, инструментальное владение AI для анализа, генерации и автоматизации, опыт с MapReduce-системами
Условия
•Гибридный формат работы: 2 дня в офисе и 3 дня на удалёнке
•Ежегодный пересмотр зарплаты
•Годовая премия
•Корпоративный спортзал и зоны отдыха
•Обучение для профессионального и карьерного развития
•Расширенный полис ДМС с первого дня работы
•Страхование для семьи
•Льготная программа ипотеки для сотрудников
•Бесплатная подписка СберПрайм+
•Скидки на продукты компаний-партнёров
•Вознаграждение за рекомендацию друзей в команду Сбера
