О роли
Мы развиваем GigaChat — самый быстрорастущий AI-проект Сбера — и ищем сильного руководителя направления безопасности ИИ. Нашими моделями пользуются миллионы людей, и наша задача делать LLM безопасной — чтобы ее просто так нельзя было уболтать продать ваш Chevrolet за 1 рубль. А ещё, помимо безопасности, наша команда развивает GigaEmbeddings — эмбеддер, который больше года удерживает топ-1 по качеству среди русскоязычных моделей на лидерборде ruMTEB.
Это роль для технического лидера, который возглавит направление: от обучения быстрых guard-моделей и online-RL до систематического редтиминга, аналитики атак на реальном трафике и развития лучших русскоязычных эмбеддеров.
Обязанности
Улучшать модели-защиты
•Обучать компактные и быстрые классификаторы входящих и исходящих сообщений: дистилляция, работа в жёстком бюджете latency, не деградируя качество основной модели.
•Развивать online-RL контур: дообучать защиты и модель на свежих атаках и сигналах с продакшена, сокращая цикл от обнаружения новой атаки до устойчивости к ней.
•Балансировать метрики защит: пропущенные нарушения против ложных срабатываний, и держать оба показателя под контролем на масштабе.
•Выстроить систематический red teaming: ручной и автоматизированный поиск джейлбрейков, prompt injection, обходов защит — перед каждым релизом и постоянно на живых моделях и продакшен-логах.
Улучшать эмбеддеры
•Развивать GigaEmbeddings: подбор и синтез данных, contrastive learning, hard negatives, дистилляция в компактные версии — удерживая топ-1 на ruMTEB.
•Применять эмбеддеры в задачах безопасности: кластеризация атак и поиск аномалий в пользовательских логах, отслеживание эволюции техник обхода.
•Собирать из продакшен-данных датасеты, и целевые тестовые наборы под конкретные кейсы: например, рефразы или ранжирование.
•Быстро отвечать данными на вопрос «почему защиту пробили и что именно сломалось» и превращать разборы инцидентов в улучшения моделей.
Для нас важно
•Отличное владение Python и PyTorch, практический опыт обучения моделей — классификаторов и LLM, а не только их использования.
•Опыт с RL-методами дообучения (RLHF/DPO/online-RL) или готовность быстро в них погрузиться на практическом уровне.
•Умение работать с продакшен-данными и обучать классификаторы: вытащить сигнал из логов, собрать датасет, посчитать метрики и понять, где разница значима, а где — шум.
Требования
•Опыт обучения guard-моделей (Llama Guard и аналоги) или построения модерационных систем под высокой нагрузкой.
•Опыт обучения эмбеддеров или ретриверов и знакомство с бенчмарками MTEB/ruMTEB.
•Опыт автоматизированного red teaming и знакомство с профильной литературой по adversarial robustness.
•Опыт в командах безопасности разработчиков моделей; публикации или open-source вклад в области AI safety.
Условия
•Большую степень влияния на безопасность моделей, которыми пользуются миллионы людей.
•Возможность развивать GigaEmbeddings — лучший русскоязычный эмбеддер, больше года удерживающий топ-1 на ruMTEB.
•Команду сильных инженеров и исследователей.
•Возможность совмещать управление направлением с глубокой технической работой.
•Конкурентную компенсацию, премии и расширенный соцпакет.
