Data Engineer

ИТ B2C - самая крупная экосистема в Сбере. Нас более 8000 человек в 18 городах России. Мы занимаемся разработкой и развитием розничных решений, помогая сделать сервисы Банка доступнее, безопаснее и удобнее.

Мы, команда офиса CDO B2C, строим платформу данных, которая обеспечивает быстрый, надежный и качественный обмен информацией между Сбером и компаниями-партнерами. Это основа для персонализированных предложений умных продуктов и эффективных бизнес-решений.

Наша команда - Команда развития Платформы в офисе CDO B2C ищет DE-инженера для реализации задач по загрузке, аналитике и трансформации данных.

Обязанности

• проектировать и реализовывать ETL/ELT-пайплайны для загрузки и обработки данных (включая DAG в Apache Airflow)

• оптимизировать и сопровождать процессы обработки больших данных (Apache Spark, Apache Flink)

• интегрировать источники данных (базы данных, API, файловые хранилища) в единую pipeline-архитектуру

• настраивать и администрировать Airflow для оркестрации workflows

• участвовать в разработке архитектуры хранения и обработки данных (включая Hadoop-экосистему)

• документировать решения и формировать базы знаний.

Требования

• наличие высшего образования

• опыт разработки ETL/ELT-процессов (реализация, оптимизация, мониторинг)

• профильное владение Python (включая библиотеки для работы с данными)

• практический опыт с распределенными вычислениями: Apache Spark (PySpark/Scala) или Apache Flink

• глубокое понимание SQL и опыт работы с РСУБД (PostgreSQL, MySQL и др.)

• знание Apache Airflow (создание DAG, настройка сенсоров, операторов)

• навыки администрирования Linux (развертывание, мониторинг, troubleshooting)

Будет преимуществом:

• базовые знания Scala (или готовность к изучению)

• опыт с Hadoop (HDFS, YARN, Hive)

• знание облачных платформ (AWS S3/Glue, GCP BigQuery, Azure Data Factory)

• навыки автоматизации (Ansible, Terraform)

• опыт работы с стриминговыми данными (Kafka, Debezium).

Условия

• гибридный формат

• ежегодный…