Основные обязанности:
— Архитектурное проектирование БД: Разработка концептуальной, логической и физической моделей данных единого хранилища. Проектирование топологии таблиц, схем данных и связей между ними. Оптимизация хранилищ данных, оптимизация производительности базы данных при тяжелых еженедельных инкрементальных загрузках;
— Разработка и поддержка ETL/ELT пайплайнов: Написание надежных скриптов на Python для еженедельной выгрузки данных из 10 сторонних API, обработки JSON/XML-ответов и обработки ошибок связи;
— Оркестрация процессов: Настройка, мониторинг и поддержка расписания запусков пайплайнов;
— Разработка логики повторных запусков и системы оповещений при сбоях API;
— Интеграция справочников и НСИ: Техническое подключение, версионирование и синхронизация мастер-справочников, словарей и классификаторов в единой БД;
— Реализация алгоритмов маппинга (в т.ч. нечеткого поиска) совместно с аналитиками;
— Обеспечение качества данных: Внедрение автоматических проверок (DQ-тестов) на этапе загрузки совместно с DQ-аналитиком (валидация типов, проверка на пустые значения, дубликаты, бизнес-логику);
— Подготовка витрин данных для отгрузки клиентам.
Требования:
— Экспертный SQL (MS SQL, PostgreSQL): Глубокое понимание архитектуры MS SQL (PostgreSQL будет преимуществом). Написание сложных запросов, CTE, оконных функций. Опыт оптимизации запросов, настройки индексов и чтения планов выполнения (EXPLAIN);
— Уверенный Python: Опыт коммерческой разработки на Python от 2–3 лет. Отличное знание библиотек для обработки данных (pandas, numpy) и работы с БД/API (requests, httpx, SQLAlchemy);
— Опыт работы с оркестраторами: Практический опыт настройки пайплайнов в Apache Airflow (предпочтительно), Prefect или аналогичных инструментах;
— Работа с API: Понимание принципов работы REST API, веб-хуков, обработки механизмов авторизации (OAuth, API-ключи, токены) и лимитов на запросы;
— Инженерная культура: Уверенное владение Git (ветвление, Pull Request), понимание принципов CI/CD, опыт контейнеризации приложений (Docker).
Условия:
— Официальное трудоустройство со стабильной заработной платой, сумма которой обсуждается с финальным кандидатом;
— ДМС после года работы;
— График работы 5/2, с возможностью работать в гибридном формате;
— Современный офис и дружная команда профессионалов;
— Интересные задачи и возможность профессионального роста.
