Syncron

Data engineer in lakehouse

Коротко

Senior data engineer для построения и эксплуатации lakehouse на AWS (S3, Iceberg, Glue, Athena) внутри Syncron/EazyStock — SaaS-компании для оптимизации запасов, работающей с малыми и средними клиентами. Роль требует глубокого опыта в ETL/ELT, data governance, DevOps/CI/CD, AWS data stack, Spark/Iceberg, SQL/PostgreSQL, Python и Java, а также поддержки MLOps и GenAI-инициатив (RAG, векторные базы, Amazon Bedrock). Формат гибридный, офис в Варшаве.

Описание
EazyStock — это «стартап» внутри Syncron, глобальной компании-лидера на рынке решений для оптимизации послепродажного обслуживания. Клиентская база Syncron состоит из крупных предприятий (например, Manitowoc, Mazda, DTNA и JCB), а EazyStock работает с малыми и средними компаниями, помогая им оптимизировать запасы и достигать высокого уровня удовлетворенности клиентов без избыточного замороженного капитала в складских запасах.
Задачи
•Проектирование и построение lakehouse EazyStock на S3 с использованием Apache Iceberg как табличного формата, AWS Glue для ETL/ELT и каталогизации, Amazon Athena как движка запросов
•Построение надежной интеграции и загрузки данных из операционных источников
•Создание управляемой аналитической копии данных, снимающей нагрузку отчетности с продуктивных систем
•Проектирование стратегий партиционирования, компакции, снапшотов и retention; ответственность за производительность запросов и эффективность облачных затрат
•Доставка чистых, хорошо смоделированных данных в Qlik Cloud и потребителям AI/ML
•Определение и операционная поддержка стандартов качества и governance данных с автоматизированной валидацией и информативными алертами
•Внедрение контрактов данных, дисциплины эволюции схем и практик DataOps для независимого развития производителей и потребителей данных
•Создание управления метаданными, каталогов данных и lineage как основной части платформы
•Построение CI/CD для пайплайнов данных, инфраструктуры и конфигурации с использованием GitHub, Jenkins и инструментов AWS DevOps; инфраструктура как код
•Внедрение observability для пайплайнов: метрики, логирование, режимы отказов, SLA и runbook'и
•Проектирование с учетом повторяемости и возможности rollback — без ручных вмешательств в production
•Построение и эксплуатация MLOps-пайплайнов на AWS — упаковка моделей, деплой, версионирование, мониторинг и переобучение
•Поддержка инициатив GenAI: курирование и индексирование данных для RAG, embedding-пайплайны, Amazon OpenSearch как vector store, модели через Amazon Bedrock
•Внесение инженерной дисциплины в работу с AI — оценка, observability, контроль затрат и безопасность — чтобы AI-функции были поддерживаемыми, а не экспериментами
•Менторство и обучение инженеров, которые являются сильными разработчиками, но новичками в данных
Требования
•6+ лет профессионального опыта в data engineering и software engineering, с продуктивными системами, которые вы вели end-to-end и готовы отвечать за них
•Сильный опыт проектирования ETL/ELT пайплайнов, моделей данных и интеграций между разнородными источниками
•Сильные навыки моделирования данных, реальный опыт управления метаданными, каталогами данных и lineage
•Практический опыт в качестве и governance данных
•Опыт с контрактами данных, практиками DataOps и эволюцией схем в многопотребительской среде
•Уверенное владение DevOps и CI/CD: Jenkins или аналог, infrastructure as code, контейнеризация (Kubernetes)
•Глубокий практический опыт со стеком данных AWS — S3, AWS Glue, Amazon Athena, IAM, Lambda — и с операционной стороной работы нагрузок в облаке
•Практический опыт с Apache Spark, Apache Iceberg (или сопоставимым открытым табличным форматом, таким как Delta Lake / Hudi) — включая операционные реалии: компакция, эволюция партиций, управление снапшотами
•Сильный SQL и сильный PostgreSQL — оптимизация запросов, индексирование, планы выполнения, репликация и CDC
•Сильный Python и твердый production Java — умение вести backend-сервис, а не только вызывать его
•Опыт интеграции с Qlik или другой enterprise BI-платформой
•Сертификат Data Engineering: Google Professional Data Engineer, Microsoft Certified Fabric Data Engineer, AWS Certified Data Engineer, Databricks Certified Data Engineer, Snowflake SnowPro Advanced Data Engineer или эквивалент
Будет плюсом:
•Знакомство с классическим ML — scikit-learn, XGBoost, pandas
•Опыт лидирования построения greenfield data-платформы или значительной миграции облачных данных
•Опыт с Airflow, dbt или аналогами
•Опыт с SageMaker, MLflow, Kubeflow или сопоставимыми инструментами жизненного цикла моделей
•Опыт работы с LLM-системами — RAG, embeddings, vector databases, или LLM API в production или серьезных прототипах
•Практический опыт в MLOps: деплой моделей в production, версионирование, мониторинг и переобучение — и готовность отвечать за жизненный цикл модели, а не только за данные, которые её питают
•Доменный опыт в Supply Chain, Inventory, Pricing или Service Fulfillment
Условия
•Impactful Work – ваш вклад напрямую формирует будущее продукта EazyStock и приносит измеримую ценность клиентам по всему миру
•Innovation-Driven Culture – присоединение к команде, которая процветает на креативности, сотрудничестве и передовых технологиях
•Professional Growth – возможности лидировать стратегические инициативы, влиять на направление продукта и расширять экспертизу в AI и SaaS
•Global Environment – работа с коллегами и клиентами из множества стран в по-настоящему международной среде
•Flexibility – гибридная модель работы, поддерживающая баланс работы и личной жизни

Хватит откликаться.
Получите рекомендацию.

$10 стартовых кредитов

Всего 60 секунд, полностью на автопилоте — AI-агенты Eraldt читают ваше резюме, определяют подходящие роли, находят живые вакансии и людей, которые могут вас порекомендовать, пишут им личные письма и добиваются рекомендации.

Это не отклик на вакансию: резюме не уходит в компанию, а рекомендацию именно по этой роли мы не обещаем.

Посмотрите, кто ещё получает интервью на автопилоте