MLOps specialist

VADAROD – IT компания, мы специализируемся на разработке и сопровождении программных продуктов в банковском и финансовом домене.

Задачи:

​​ Мониторинг и надёжность

• Внедрение и поддержка в проме сбора технических метрик через Prometheus + Grafana.

• Отслеживание дрейфа данных (data drift) и дрейфа концепции (concept drift) с автоматическими алертами.

• Логирование запросов/ответов (ELK, Langfuse) для аудита и отладки.

• Настройка алертов на деградацию качества модели (включая бизнес-метрики).

Автоматизация CI/CD для ML

• Построение пайплайнов сборки, тестирования и деплоя моделей (Jenkins).

• Оркестрация пайплайнов переобучения и передеплоя (Airflow, Kubeflow).

• Управление версиями данных и моделей (DVC, MLflow), трекинг экспериментов и артефактов.

Инфраструктурная поддержка платформы

• Настройка и сопровождение GPU-кластеров, S3-совместимых хранилищ (артефакты, датасеты).

• Поддержка систем версионирования (MLflow, реестр моделей), обеспечение их отказоустойчивости и корректной работы (пример: настройка БД артефактов, устранение проблем с версиями).

• Сопровождение инференс-сервисов в условиях роста нагрузки (горизонтальное масштабирование, автоскейлинг).

Взаимодействие с командами

• Обратная связь DS по инфраструктурным ограничениям (лимиты по latency, памяти, GPU).

• Участие в дизайне контрактов между ML-сервисами и бэкендом (SLA, форматы запросов/ответов).

• Трансляция требований бэкенда (надёжность, время ответа) в технические решения для DS.

Мы ожидаем:

• контейнеризация/оркестрация: Docker, Kubernetes (поддержка кластеров, Helm);

• CI/CD: Jenkins (сборка, тесты, деплой моделей);

• оркестрация пайплайнов: Airflow или Kubeflow (настройка, поддержка);

• трекинг и реестр моделей: MLflow (администрирование, интеграция с S3/БД);

• мониторинг: Prometheus + Grafana + Langfuse, знание метрик дрейфа;

• инференс-серверы: опыт с vLLM, TGI, Triton, llama.cpp;

• Python (базовый уровень), Bash/Linux (администрирование);

• работа с…