Описание
Мы - команда GigaChat Pretrain Data, готовим pretrain данные для GigaChat и GigaChat Vision. Pretrain данные - это фундамент, с которого начинается путь современной LLM модели и то, от чего наиболее зависит ее итоговое качество. Сырых данных более 40Пб и основная задача заключается в том, чтобы из этого хаоса сделать датасет, на котором будет обучена лучшая LLM в России.
Задачи
•Поддержка данных для обучения VLM на кластере YTSaurus.
•Построение удобной платформы для эффективного анализа/обработки данных (фильтрация, дедупликация и пр.)
•Автоматизация процессов через Airflow.
•Поиск и синтез данных для обучения VLM (есть несколько областей: OCR/Charts&Tables/Grounding&Counting/General и тд).
•Исследование пайплайнов по созданию чистых и разнообразных датасетов (на примере FineVision).
•Обучение VLM на подготовленных данных.
•Проведение исследований релевантных intrain метрик, бенчмарков для замера качества.
Требования
•Опыт построения дата пайплайнов и data quality процессов
•Опыт работы в production ml команде (большие нагрузки как преимущество)
•Понимание задач CV и современных подходов в больших языковых моделях
•Опыт решения задач, связанных с влиянием данных на качество VLM
•Практический опыт работы с VLM
Условия
•Комфортный современный офис рядом с м. Кутузовская
•Возможность выбрать удобный график – офис/гибрид/удаленка (в РФ)
•Годовая премия
•Корпоративный спортзал и зоны отдыха
•Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
•Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
•Ипотека для сотрудников по дисконтной программе
•Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
•Вознаграждение за рекомендацию друзей в команду Сбера
