Описание
В Центре Робототехники Сбера мы занимаемся созданием универсального воплощенного ИИ для роботов, который способен управлять разнообразными физическими воплощениями. Кроме этого, одним из ключевых направлений нашей работы является разработка антропоморфного робота общего назначения, не безызвестного Грина.
Задачи
•проведение Red Teaming и пентеста ИИ-агентов: поиск промпт-инъекций, отравлений данных, jailbreaks и обходов системных инструкций
•проектирование и внедрение защиты агентов: системы модерации, детекторы, изоляция, контроль цепочек инструментов
•консультирование инженерных команд по безопасной интеграции агентов с корпоративными системами и интернетом, помощь в проектировании архитектуры
•создание практических гайдлайнов по работе с агентами (выдаче API-ключей, ограничению доступа к файловой системе и проверке действий агента)
•проведение код-ревью пайплайнов агентов с фокусом на безопасность LLM-вызовов и обработку внешних данных
•аудит и поиск уязвимостей в моделях управления роботом: защита от состязательных (adversarial) атак, визуальных обманок и злонамеренного переобучения
•проектирование безопасных ML-контуров
•внедрение практик MLSecOps: сканирование весов моделей, контроль целостности датасетов, аудит-логирование решений
•настройка безопасного деплоя: изоляция инференса в песочницах, управление секретами, мониторинг аномалий в поведении агентов
•участие во внутренних митапах и воркшопах для работников по безопасности ИИ
Требования
•опыт в AppSec, MLSec или Red Team от 4 лет, из них 1.5–2 года — с LLM и автономными агентами
•глубокое понимание механики LLM (контексты, tool calling, RAG), профиля нарушителя и угроз
•практический опыт Red Teaming ИИ-агентов: поиск промпт-инъекций, отравлений данных, jailbreaks
•опыт проектирования защиты агентов: системы модерации, детекторы, изоляция, контроль цепочек инструментов
•навыки консультирования инженеров и проектирования безопасной архитектуры интеграции агентов
•опыт проведения код-ревью пайплайнов агентов (Python/TypeScript) с фокусом на безопасность LLM-вызовов
•опыт аудита моделей компьютерного зрения и управления роботами (adversarial attacks, визуальные обманки)
•практическое внедрение MLSecOps: сканирование весов, контроль датасетов, аудит-логирование решений
•навыки безопасного деплоя: изоляция инференса, управление секретами, мониторинг аномалий
•владение Python для написания PoC и инструментов, уверенная работа с Linux
Условия
•офисный/гибридный формат в Москве (Автозаводская 23а к2)
•ежегодный пересмотр зарплаты и годовая премия
•расширенный ДМС и льготное страхование для семьи
•уникальная система обучения Сбера для профессионального и карьерного развития
•выгодная ипотека для сотрудников
•подписка Прайм с возможностью совместного использования на трёх близких
•вознаграждение за рекомендацию друзей в команду Сбера
•корпоративная пенсионная программа
