Описание
Команда Яндекса разрабатывает модели генерации и редактирования изображений для Алисы — от исследовательских идей до внедрения в продукт. Работа охватывает обучение моделей, развитие их возможностей и ускорение инференса.
Задачи
•Развивать модели генерации и редактирования изображений
•Участвовать в обучении моделей на стадиях pretrain, SFT, RL и дистилляции
•Расширять возможности моделей, включая редактирование нескольких изображений и генерацию в высоком разрешении
•Экспериментировать с кондишнингом и текстовыми энкодерами
•Работать с эмбеддингами текста и изображений, снижать галлюцинации и игнорирование условий в сложных запросах
•Исследовать методы дистилляции диффузионных моделей
•Оптимизировать работу GPU и доводить решения до продакшена
•Определять состав обучающих данных и строить масштабируемый пайплайн
•Ускорять распределённое обучение, профилировать узкие места и обеспечивать стабильность и воспроизводимость экспериментов
Требования
•Писать понятный код и доводить идеи до воспроизводимого результата
•Понимать устройство диффузионных моделей или быть готовым быстро в них разобраться
•Аккуратно ставить эксперименты и выделять реальные улучшения
•Иметь опыт обучения больших моделей на нескольких GPU или желание в этом разобраться
Будет плюсом:
•Опыт работы с диффузионными моделями, дистилляцией или редактированием изображений
•Обучение генеративных моделей или больших моделей в распределённых конфигурациях
•Знание архитектур и методов обучения LLM/VLM
•Навыки профилирования и ускорения кода
•Работа с Docker
Условия
Условий в вакансии нет.