Описание
Managed Inference Platform (MIP) - корпоративная PaaS-платформа для высокопроизводительного инференса классических ML-моделей и больших языковых моделей (LLM), обеспечивающая централизованное управление GPU, эластичность ресурсов, автоматизацию развертывания и доступ к AI-сервисам.
Задачи
•Писать helm-чарты для деплоя компонентов платформы
•Автоматизировать процессы создания и обслуживания кластеров Kubernetes с помощью ansible
•Заниматься интеграцией компонентов платформы с сервисами и системами Банка
•Запускать, тестировать и оптимизировать инференс ML-моделей, в том числе в мульти-нодовых конфигурациях
•Участвовать в сопровождении платформы, поиске и устранении неисправностей, решении проблем пользователей
•Изучать и внедрять новые продукты и технологии для развития платформы
Требования
•Понимаете, как работают контейнеры, можете написать Dockerfile для нового сервиса
•Имеете опыт создания и администрирования кластеров Kubernetes, понимаете принципы работы компонентов кластера
•Умеете работать с основными элементами контейнерной инфраструктуры (container registry, secret management, ingress controller, service mesh, CNI, CSI)
•Имеете опыт написания и отладки сложных helm-чартов и плейбуков ansible
•Понимаете внутреннее устройство Linux, умеете решать проблемы с драйверами, модулями ядра, сетевой подсистемой
•Разбираетесь в основных концепциях машинного обучения, хотя бы в общих чертах представляете, как работает LLM-трансформер, и хотите глубоко погрузиться в изучение этой темы
•Знаете, как работают современные сети и протоколы передачи данных
•Можете читать код на Python
•Владеете bash на уровне, достаточном для автоматизации рутинных операций
•Инструментальное владение AI для анализа, генерации и автоматизации
Условия
•Комфортный офис БЦ «Южный Порт» (10 минут пешком от ст. м. Кожуховская)
•Ежегодный пересмотр зарплаты, квартальная и годовая премия
•Корпоративный спортзал, зоны отдыха
•Уникальная система обучения Сбера для профессионального и карьерного развития
•Расширенный ДМС и льготное страхование семьи
•Гибкий дисконт по ипотеке — всего ⅓ ключевой ставки ЦБ
•Подписка Прайм с возможностью совместного пользования на трех близких
•Вознаграждение за рекомендацию друзей в команду Сбера
