Яндекс

Дата-инженер (ETL/DWH)

Коротко

Дата-инженер (ETL/DWH) в Yandex: проектирование, реализация и оптимизация ETL/ELT-процессов и пайплайнов обработки данных, развитие DWH и собственного ETL-фреймворка. Требуется от 3 лет опыта, уверенный Python, хорошее знание SQL и алгоритмов, понимание CI/CD и Git. Плюсом будет знание Hadoop, Spark, Hive, Airflow, Kafka Streams, Flink и опыт с высоконагруженными процессами обработки событий в реальном времени.

Локация
Удалённая работа, офис или гибридный формат
Компания
Yandex развивает городские сервисы и аналитическую инфраструктуру для райдтех-направлений.
Что делать
•Проектировать, реализовывать и оптимизировать сложные ETL- и ELT-процессы.
•Развивать DWH и строить пайплайны обработки данных от источников до витрин и отчётов.
•Поддерживать стабильность и качество существующей функциональности, устранять технический долг и автоматизировать процессы.
•Исследовать и пилотировать Flink, Spark, инкрементальное построение и инструменты Data Quality.
•Развивать собственный ETL-фреймворк и интеграции с аналитическими инструментами.
Требования
•От 3 лет опыта.
•Уверенное программирование на Python.
•Знание классических алгоритмов и структур данных.
•Хорошее знание SQL и понимание современных баз данных и фреймворков обработки данных.
•Понимание назначения CI/CD, преимуществ Git и code review.
Хорошо, если есть
•Опыт работы по методологии Agile и участия в проектировании хранилищ данных.
•Знание Hadoop, Spark, Hive, Luigi или Airflow.
•Опыт создания высоконагруженных ETL/ELT-процессов и обработки событий в режиме, близком к реальному времени.
•Опыт работы с Kafka Streams, Flink, Greenplum, Vertica, ClickHouse или Teradata.
•Знание Jupyter, Pandas, SciPy, Matplotlib или Bokeh; публикация кода или статей с примерами работ.
Культура и преимущества
•Можно выбрать удалённый, офисный или гибридный формат работы.
•Работа с большим объёмом данных и инфраструктурой, которой пользуются сотни бизнес-пользователей.
•Возможность участвовать в исследовании, переосмыслении и внедрении новых инструментов.

Хватит откликаться.
Получите рекомендацию.

$10 стартовых кредитов

Всего 60 секунд, полностью на автопилоте — AI-агенты Eraldt читают ваше резюме, определяют подходящие роли, находят живые вакансии и людей, которые могут вас порекомендовать, пишут им личные письма и добиваются рекомендации.

Это не отклик на вакансию: резюме не уходит в компанию, а рекомендацию именно по этой роли мы не обещаем.

Посмотрите, кто ещё получает интервью на автопилоте

Ещё в Яндекс