О компании
eggscom.studio - стартап-студия с фокусом на запуск AI стартапов.
В команду студии ищем датасаентиста/ML-разработчика с опытом дообучения нейросетей. В фокусе создание внутреннего продукта для помощи партнерам (кофаундерам) студии в работе над стартапами.
Задачи
•дообучение LLM (fine-tuning) на 16B по методологии студии (цели, этапы, термины создания и развития стартапов)
•сбор и подготовка датасета в формате JSONL/ChatML
•отбраковка мусора: дедупликация, валидация структуры, балансировка категорий, сплит на train/val
•запуск дообучения и контроль качества по эпохам: переобучение, деградацию базовых знаний и русского языка, выбор чекпоинта по val-лоссу и ручной оценке ответов
Требуемые навыки
•Python на рабочем уровне: работа с JSONL/CSV, скрипты валидации и сплита данных
•работа с LLM: Hugging Face transformers + datasets/trl, PEFT (LoRA/QLoRA), Unsloth
•понимание гиперпараметров: число эпох, learning rate, LoRA rank/alpha, batch size, шаги
•оценка качества: train/val loss, метрики, ручное ревью ответов модели
•инструменты разметки и генерации данных: Argilla, Label Studio (или аналоги), Distilabel для синтетики
•очистка данных: дедупликация, text-dedup или собственные скрипты
Требуемый опыт
•реальный опыт дообучения моделей: минимум 1–2 завершённых прогона fine-tuning с измеримым результатом (можно pet проекты)
•сборка датасета: понимание различий переобучения и недообучение, принципа работы с весами
•фокус с текстовыми/чат-моделями (NLP/LLM)
Условия
•удалённая работа до 4х часов в день
•график по согласованию (выходные, вечер)
•оплата за проект частями по согласованным этапам
•работа с сотрудниками и партнерами студии по сборке датасета
Оплата по договорённости после собеседования.
