О компании Cantina
Cantina Labs — это социальная AI-компания, разрабатывающая набор передовых моделей в реальном времени, которые расширяют границы выражения, личности и реализма. Мы оживляем персонажей, трансформируя способы рассказа историй, общения и творчества. Мы создаём и поддерживаем экосистемы. Cantina, наша флагманская социальная AI-платформа, — это только начало.
О роли
Cantina расширяется, и мы ищем научного сотрудника для присоединения к нашей растущей команде в Сингапуре! В этой роли вы будете вести фундаментальные исследования моделей генерации видео, беря на себя ответственность за полный цикл исследований и развитие исследований после обучения. Кроме того, вы будете тесно сотрудничать с командами данных, инфраструктуры и смежных моделей для преобразования результатов исследований в устойчивые улучшения моделей.
Что вы будете делать
•Создавать и поддерживать масштабируемые системы для загрузки, предварительной обработки и доставки крупномасштабных видео данных для обучения моделей
•Проектировать и масштабировать распределённые конвейеры данных для предварительной обработки, генерации наборов данных и их регулярного обновления
•Отвечать за оркестрацию рабочих процессов, планирование задач, мониторинг и восстановление после сбоев для крупномасштабных задач обработки данных
•Реализовывать и поддерживать контейнеризированную инфраструктуру конвейеров с использованием Kubernetes или аналогичных систем оркестрации
•Оптимизировать облачное хранение данных и их перемещение между провайдерами (AWS, GCS или Azure) с учётом стоимости, пропускной способности и операционной эффективности
•Определять и внедрять лучшие практики для организации хранения наборов данных, версионирования, кэширования, хранения и схем доступа
•Создавать инструменты для поддержки рабочих процессов дедупликации в масштабе, включая конвейеры для близкой дедупликации больших видеокорпусов
•Исследовать и разрабатывать методы дистилляции для крупномасштабных моделей генерации видео на основе диффузии и потоков, включая дистилляцию с направлением и состязательную дистилляцию, с акцентом на сохранение или улучшение качества генерации при снижении затрат на инференс
•Разрабатывать модели вознаграждения и конвейеры тонкой настройки на основе предпочтений, которые согласуют качество генерации видео с человеческими оценками по таким параметрам, как эстетика, качество движения и соответствие запросу
•Анализировать взаимосвязь между поведением базовой модели и результатами после обучения, а также работать с командой фундаментальных моделей для информирования решений по предварительному обучению
Что вы принесёте с собой
•Обширный практический опыт создания или масштабирования крупномасштабных систем данных или конвейеров для рабочих процессов машинного обучения
•Опыт работы с распределёнными фреймворками обработки данных, такими как PySpark или Ray, и инструментами оркестрации, такими как Airflow или аналогичными
•Знание контейнеризации и оркестрации контейнеров, включая Docker и Kubernetes
•Опыт работы с облачным хранением данных и вычислениями (AWS, GCS и/или Azure), включая понимание компромиссов по стоимости, пропускной способности, организации хранения и схемам доступа
•Знакомство с инструментами обработки видео и медиа, такими как FFmpeg, PyAV, DALI или OpenCV
•Знание мультимодальных или медиа данных, включая видео, изображения, текст и аудио
•Сильная исследовательская база в методах пост-обучения для крупномасштабных диффузионных или потоковых генеративных моделей, с глубоким практическим опытом дистилляции, направленной на эффективность инференса и сохранение качества
•Опыт работы с моделированием вознаграждения или тонкой настройкой на основе предпочтений для генеративных моделей, включая RLHF, DPO или аналогичные подходы к выравниванию
•Хорошее понимание взаимосвязи между предварительным обучением и пост-обучением, а также того, как свойства базовой модели влияют на результаты дистилляции и тонкой настройки
•Свободное владение Python и современными фреймворками машинного обучения, с предпочтением PyTorch или JAX
•Опыт самостоятельных исследований с умением вести проекты от первоначальной идеи до экспериментальной проверки
•Публикации в ведущих конференциях (NeurIPS, ICML, ICLR, CVPR, ICCV, ECCV) приветствуются
•Хорошее понимание практических задач, связанных с созданием надёжных, масштабируемых и воспроизводимых рабочих процессов данных для систем машинного обучения
Преимущества, которые мы предлагаем
•Конкурентная зарплата и щедрый пакет акций компании
•Личное время отдыха и оплачиваемые праздники
•Медицинская страховка
•Глобальная страховка для путешествий: покрывает вас при международных поездках
•Ежемесячный расходный бюджет: 500 долларов США (~635 сингапурских долларов)
•Оборудование: всё необходимое оборудование для вашего домашнего офиса
