Разработчик баз данных

Основные обязанности:

• Архитектурное проектирование БД: Разработка концептуальной, логической и физической моделей данных единого хранилища. Проектирование топологии таблиц, схем данных и связей между ними. Оптимизация хранилищ данных, оптимизация производительности базы данных при тяжелых еженедельных инкрементальных загрузках;

• Разработка и поддержка ETL/ELT пайплайнов: Написание надежных скриптов на Python для еженедельной выгрузки данных из 10 сторонних API, обработки JSON/XML-ответов и обработки ошибок связи;

• Оркестрация процессов: Настройка, мониторинг и поддержка расписания запусков пайплайнов;

• Разработка логики повторных запусков и системы оповещений при сбоях API;

• Интеграция справочников и НСИ: Техническое подключение, версионирование и синхронизация мастер-справочников, словарей и классификаторов в единой БД;

• Реализация алгоритмов маппинга (в т.ч. нечеткого поиска) совместно с аналитиками;

• Обеспечение качества данных: Внедрение автоматических проверок (DQ-тестов) на этапе загрузки совместно с DQ-аналитиком (валидация типов, проверка на пустые значения, дубликаты, бизнес-логику);

• Подготовка витрин данных для отгрузки клиентам.

Требования:

• Экспертный SQL (MS SQL, PostgreSQL): Глубокое понимание архитектуры MS SQL (PostgreSQL будет преимуществом). Написание сложных запросов, CTE, оконных функций. Опыт оптимизации запросов, настройки индексов и чтения планов выполнения (EXPLAIN);

• Уверенный Python : Опыт коммерческой разработки на Python от 2–3 лет. Отличное знание библиотек для обработки данных (pandas, numpy) и работы с БД/API (requests, httpx, SQLAlchemy);

• Опыт работы с оркестраторами: Практический опыт настройки пайплайнов в Apache Airflow (предпочтительно), Prefect или аналогичных инструментах;

• Работа с API : Понимание принципов работы REST API, веб-хуков, обработки механизмов авторизации (OAuth, API-ключи, токены) и лимитов на запросы;

• Инженерная культура: Уверенное владение Git (ветвление, Pull Request), понимание…