Описание
Команда разрабатывает фундаментальные модели, включая корпоративную большую языковую модель. Также она создаёт платформенные решения: платформу умного поиска и сервис-шлюз для доступа к внутренним и внешним провайдерам больших языковых моделей. Точка Банк создаёт онлайн-банк и экосистему сервисов для бизнеса.
Задачи
•Вносить вклад в исследования и разработку внутренней большой языковой модели — от подготовки данных до этапов её дообучения
•Самостоятельно обучать модели Mixture of Experts размером 200B+ на многоузловом кластере в распределённом режиме
•Вносить вклад в развитие фреймворка с открытым исходным кодом для распределённого обучения
Требования
•Опыт работы инженером-исследователем от трёх лет
•Хорошее понимание фундаментальных моделей
•Опыт распределённого обучения больших языковых моделей с параллелизмом 3D+
•Умение отлаживать сложные эксперименты на низком уровне
•Умение писать поддерживаемый и воспроизводимый код
•Умение работать в команде и передавать опыт менее опытным коллегам
Условия
•Пятидневная рабочая неделя с гибким началом и окончанием дня
•Понятная система развития и роста по грейдам
•Возможность влиять на решения команды
•Бесплатное обучение, посещение IT-конференций, мероприятий и хакатонов, курсы за счёт компании, библиотека и платформа онлайн-курсов
•ДМС со стоматологией после испытательного срока
•Четыре дополнительных выходных в год после испытательного срока
•Активная корпоративная жизнь
