Описание
eggscom.studio — стартап-студия, специализирующаяся на запуске AI-стартапов. Специалист будет создавать внутренний продукт для помощи кофаундерам студии.
Задачи
•Дообучать LLM 16B под методологию студии
•Собирать и готовить датасеты JSONL/ChatML
•Очищать данные: проводить дедупликацию, валидацию, балансировку и разделение на train/val
•Запускать дообучение и контролировать качество по эпохам
•Анализировать переобучение, деградацию базовых знаний и русского языка
•Выбирать контрольные точки по val-loss и ручной оценке ответов
Требования
•Владеть Python для работы с JSONL/CSV и создания скриптов валидации и обработки данных
•Знать Hugging Face Transformers, Datasets/TRL
•Знать PEFT, LoRA/QLoRA, Unsloth
•Понимать гиперпараметры дообучения
•Уметь оценивать качество моделей и вручную проверять ответы
•Знать Argilla, Label Studio, Distilabel или аналоги
•Иметь опыт работы с текстовыми LLM/NLP
•Иметь минимум 1–2 завершённых проекта по дообучению с измеримым результатом
Условия
•Удалённая работа до 4 часов в день
•График по согласованию, возможна работа вечером и в выходные
•Оплата поэтапно за проект