Middle+ Machine Learning Engineer (ML Infrastructure & Highload)

Мы строим высоконагруженные ML-системы для обеспечения банковской безопасности. Наш фокус — антифрод, управление рисками, обнаружение аномалий и оптимизация бизнес-процессов и тд.

Ищем MLE грейда Middle+ с сильной инженерной базой. Ключевая задача — внедрение и адаптация высокопроизводительных runtime-шаблонов для инференса моделей, автоматизация процессов деплоя и оптимизация Time-to-Market при выводе ML/DL и LLM в промышленную эксплуатацию.

Обязанности

• развертывание и поставка моделей: Упаковка, деплой и поддержка runtime-шаблонов для быстрого вывода моделей в прод на основе готовых архитектурных решений

Оптимизация инференса (ML Serving):

• обеспечение требуемого уровня latency и пропускной способности для классического ML (LightGBM, CatBoost и тд) и нейросетей

• конфигурирование и поддержка инференс-серверов (Triton Inference Server, vLLM и тд)

Интеграция и оптимизация LLM:

• вывод в продакшен LLM-агентов и RAG-систем с использованием готовых фреймворков

• настройка производительных движков (vLLM, TGI) с применением базовых техник оптимизации (квантование, continuous batching)

• реализация механизмов кэширования и фильтрации запросов (Guardrails)

Автоматизация пайплайнов:

• сборка end-to-end пайплайнов доставки данных и моделей (от логов до Real-time API)

• интеграция с очередями сообщений (Kafka) для обработки данных в реальном времени

• написание и поддержка DAG-ов переобучения моделей в Airflow

Мониторинг и логирование:

• настройка базового мониторинга метрик данных и моделей (Data/Model Drift)

• интеграция трекинга экспериментов и логирования цепочек LLM (MLflow, Langfuse)

• ведение реестра моделей в MLflow Model Registry.

Требования

• инженерный опыт: От 3-х лет в роли MLE / Backend-разработчика (Python) с опытом коммерческого вывода моделей в прод и пониманием специфики Highload-систем

• уверенный Python: Чистый, типизированный код, знание асинхронного программирования (Asyncio) и базовых паттернов проектирования

• работа с…