Основные задачи:
— Проектировать масштабируемую, надёжную и производительную архитектуру единой платформы данных;
— Разрабатывать и сопровождать техническую дорожную карту платформы, синхронизированную с бизнес-целями и потребностями исследователей;
— Анализировать и обеспечивать характеристики scalability, reliability и performance ключевых компонентов;
— Проектировать и внедрять системы оркестрации многоэтапных пайплайнов обработки данных;
— Разрабатывать ключевые компоненты платформы: панель управления, оркестраторы, агенты, API, SDK;
— Создавать и развивать self-service инструменты, позволяющие дата-инженерам и аналитикам автономно запускать, мониторить и контролировать пайплайны;
— Обеспечивать мультитенантность, разграничение доступа и аудит-логирование действий пользователей;
— Обеспечивать целостность, надёжность и безопасность данных на всех этапах обработки;
— Оптимизировать использование вычислительных и storage-ресурсов: проводить capacity planning, performance benchmarking, выявлять и устранять узкие места;
— Развивать observability-направление: мониторинг, APM, алертинг для своевременного обнаружения деградаций;
— Формировать и внедрять технические стандарты платформенной команды: архитектурные принципы, подходы к надёжности, code review, требования к документации;
— Систематизировать процессы разработки, унифицировать технологический стек и инструментарий;
— Систематизировать и вести техническую документацию по платформенным сервисам и архитектурным решениям.
Требования:
— Опыт проектирования горизонтально масштабируемых, отказоустойчивых data-intensive систем на bare-metal/VM-инфраструктуре и/или в Kubernetes;
— Понимание архитектурных компромиссов и умение выбирать решения под конкретные рабочие нагрузки: оркестрация, хранение, доступ, мониторинг;
— Уверенное владение Python;
— Опыт разработки бэкенд-сервисов и API с использованием FastAPI;
— Опыт работы с оркестраторами пайплайнов: Airflow, Dagster и другие;
— Понимание HTC/HPC-систем;
— S3-совместимыми хранилищами;
— Понимание объектного и файлового хранения для нагрузок с интенсивной обработкой данных: производительность, масштабируемость, модели доступа;
— Опыт построения CI/CD-пайплайнов в GitLab (тестирование, сборка, деплой сервисов платформы);
— Способность принимать и аргументировать системные архитектурные решения, увязывая требования надёжности, производительности и стоимости;
— Опыт формирования технических стандартов: архитектурные принципы, code review, инженерная документация, практики эксплуатации.
Будет плюсом:
— Опыт разработки на Go;
— Глубокое понимание Kubernetes: запуск рабочих нагрузок, модель операторов, сетевые политики, безопасность;
— Опыт работы с планировщиками типа Slurm;
— Опыт работы с Singularity/Apptainer контейнерами;
— Опыт в домене биотехнологий/биоинформатики и понимание специфики рабочих нагрузок (позволит быстрее войти в контекст).
Условия:
— Интересные проекты федерального уровня с минимумом бюрократии, главное – результат;
— Практическая направленность работы на получение реально работающих уникальных продуктов в сфере генетики / медицины / биологии, на стыке ИТ и передовой науки;
— Оформление по ТК РФ, достойный уровень з/п;
— Работа в быстрорастущей, стабильной организации, которой не страшен кризис;
— График работы 5/2, плавающее начало рабочего дня, гибридный график работы после испытательного срока;
— Бронь от мобилизации.
