Описание
Команда GigaChat Pretrain Data готовит данные для предварительного обучения GigaChat и GigaChat Vision. Объём сырых данных превышает 40 ПБ, а итоговая задача — создавать датасеты для обучения LLM-моделей.
Задачи
•Поддерживать данные для обучения VLM на кластере YTSaurus
•Строить платформу для анализа и обработки данных, включая фильтрацию и дедупликацию
•Автоматизировать процессы через Airflow
•Искать и синтезировать данные для обучения VLM в областях OCR, Charts&Tables, Grounding&Counting и других
•Исследовать пайплайны создания чистых и разнообразных датасетов на примере FineVision
•Обучать VLM на подготовленных данных
•Проводить исследования релевантных intrain-метрик и бенчмарков для оценки качества
Требования
•Опыт построения дата-пайплайнов и процессов контроля качества данных
•Опыт работы в production ML-команде
•Понимание задач компьютерного зрения и современных подходов в больших языковых моделях
•Опыт решения задач, связанных с влиянием данных на качество VLM
•Практический опыт работы с VLM
•Будет плюсом опыт работы с большими нагрузками
Условия
•Возможность выбрать удобный график: офис, гибрид или удалёнка в РФ
•Годовая премия
•Корпоративный спортзал и зоны отдыха
•Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
•Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
•Ипотека для сотрудников по дисконтной программе
•Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнёров
•Вознаграждение за рекомендацию друзей в команду Сбера
