Яндекс

Data Platform Engineer (NRT/Spark)

Коротко

Роль дата-инженера в финтех-направлении Yandex: развитие облачной платформы данных для обработки near real-time потоков и построение observability-платформы для DWH. Основные задачи — CDC- и streaming-пайплайны, изолированные тестовые окружения и внутренние low-code-фреймворки загрузки и контроля качества данных. Требуется от 3–4 лет коммерческой разработки, глубокое понимание архитектуры БД и опыт с PostgreSQL, Oracle, MongoDB, Greenplum, Python, Airflow, Spark и Trino.

Локация
Гибридный формат работы.
Компания
Финтех-направление Yandex развивает экосистему финансовых сервисов для миллионов пользователей и бизнесов, включая платежные, кредитные и банковские продукты.
Что делать
•Проектировать и развивать облачную платформу данных с использованием Yandex Cloud.
•Создавать единую observability-платформу для DWH-таблиц, включая мониторинг сборки, качества данных, зависимостей, datalineage и логирования.
•Оптимизировать поставку данных, реализовывать загрузку снепшотов, инкрементов, CDC и потоковую обработку с минимальной задержкой.
•Создавать изолированные окружения разработки, тестирования и предпрода с автоматизированными проверками.
•Развивать внутренние low-code-фреймворки для загрузки, трансформации и контроля качества данных.
Требования
•От 3–4 лет коммерческой разработки.
•Глубокое понимание архитектуры баз данных, оптимизации запросов, планов выполнения, партиционирования, шардирования и индексов.
•Опыт работы с PostgreSQL, Oracle, MongoDB и Greenplum.
•Практический опыт с CDC и реализацией соответствующих пайплайнов.
•Уверенная работа с S3-совместимыми хранилищами.
•Знание Python, Apache Airflow, Apache Spark, Spark SQL, DataFrame и Trino.
Культура и преимущества
•Гибридный формат работы.
•Работа с высокими нагрузками, большими данными и миллионами транзакций.
•Инженерные задачи в среде с повышенными требованиями к безопасности, надежности и регуляторной отчетности.

Хватит откликаться.
Получите рекомендацию.

$10 стартовых кредитов

Всего 60 секунд, полностью на автопилоте — AI-агенты Eraldt читают ваше резюме, определяют подходящие роли, находят живые вакансии и людей, которые могут вас порекомендовать, пишут им личные письма и добиваются рекомендации.

Это не отклик на вакансию: резюме не уходит в компанию, а рекомендацию именно по этой роли мы не обещаем.

Посмотрите, кто ещё получает интервью на автопилоте