2ГИС

data engineer CDP

Коротко

Senior data engineer в команду внутренней Customer Data Platform 2ГИС — объединение данных из десятков источников, расчёт признаков и метрик, работа с потоками событий в реальном времени и пакетной обработкой. Требуется опыт с highload-системами, Kafka, ClickHouse, Spark и уверенное владение Python или Scala. Работа полностью удалённая, в распределённой команде, с влиянием на архитектуру и стек платформы.

Описание
2GIS CDP — внутренняя Customer Data Platform, объединяющая данные из десятков источников, создающая единые пользовательские профили, рассчитывающая метрики, интересы и модели поведения, а также поддерживающая персонализацию продукта, рекламы и коммуникаций. Платформа обрабатывает большие объёмы событий и является стратегическим направлением развития 2ГИС.
Задачи
•Повысить эффективность пайплайнов для расчёта ежедневных признаков на основе пакетной обработки
•Создать эффективный пайплайн для расчёта признаков в реальном времени на основе Kafka-топиков
•Проектировать и разрабатывать сервисы, обрабатывающие миллиарды пользовательских событий
•Решать сложные инженерные задачи: рассчитывать метрики и строить витрины
•Работать с потоками данных и интеграциями между CDP и другими системами 2ГИС
•Влиять на архитектурные решения и качество кода
•Взаимодействовать с аналитиками, продактами и инженерами других направлений в распределённой команде
Требования
•Опыт работы с highload-системами
•Опыт проектирования архитектуры данных или платформенного кода
•Опыт работы с Kafka, ClickHouse или другими системами потоковой и аналитической обработки данных
•Понимание принципов работы Spark и умение его настраивать
•Уверенное владение одним из языков программирования, например Python или Scala
•Самостоятельность и проактивность
•Желание разбираться в бизнес-логике и создавать продукт, а не просто писать код
Будет плюсом:
•Опыт работы с Airflow
•Опыт анализа данных с использованием SQL
•Знание инструментов мониторинга и автоматического контроля качества данных
•Опыт построения Data Lineage и работы с Data Catalog
•Понимание подходов к персонализации, сегментации или аналитике в реальном времени
•Понимание принципов работы S3-хранилищ
Условия
•Возможность влиять на развитие стека и архитектуру
•Минимум бюрократии и высокий уровень ответственности
•Работа над стратегическим направлением с миллионами пользователей, миллиардами событий и сотнями интеграций
•Возможность видеть влияние работы на продукт, коммуникации и рекламу 2ГИС

Хватит откликаться.
Получите рекомендацию.

$10 стартовых кредитов

Всего 60 секунд, полностью на автопилоте — AI-агенты Eraldt читают ваше резюме, определяют подходящие роли, находят живые вакансии и людей, которые могут вас порекомендовать, пишут им личные письма и добиваются рекомендации.

Это не отклик на вакансию: резюме не уходит в компанию, а рекомендацию именно по этой роли мы не обещаем.

Посмотрите, кто ещё получает интервью на автопилоте