DevOps/MLOps (middle)

Ищем DevOps/MLOps инженера в проектную команду для сопровождения и развития платформы машинного обучения и AI-сервисов (LLM, агенты, чат-боты).

Чем предстоит заниматься:

• развёртыванием ML-моделей и AI-сервисов, локальных моделей (LLM, ML-модели) в различных средах;

• • управлением версиями моделей и их хранением (NFS/MinIO);

• подготовкой окружений для инференса и тестирования моделей;

• развёртыванием сервисов AI-агентов, чат-ботов и ML-сервисов в Kubernetes и docker compose;

• работой с большими моделями и GPU в kubernetes и docker;

• CI/CD для ML-сервисов и инфраструктуры;

• сборкой Docker-образов, npm пакетов, артефактов;

• написание и рефакторингом пайплайнов в Azure DevOps;

• участием в разработке Dockerfile для ML-сервисов, консультациями;

• сборкой базовых образов;

• работой с docker-compose, рантаймами: containerd, Docker, podman;

• контролем отсутствия секретов в docker слоях;

• эксплуатацией и сопровождением Kubernetes-кластеров;

• разработкой и рефакторингом Helm charts;

• работой с TLS/SSL сертификатами и их ротацией, в т.ч. через nginx;

• сбором логов контейнеров;

• интеграцией логов с Elastic/Logstash,к с VictoriaMetrics/Prometheus;

• управлением секретами Kubernetes и HC Vault;

• интеграцией ML pipeline с CI/CD;

• подготовкой инфраструктуры для обучения моделей;

• диагностикой проблем запуска моделей и сервисов;

• отладкой Kubernetes workload;

• оптимизацией использования ресурсов (CPU/GPU/RAM);

• подготовкой технической документации.

Чего мы ждем от тебя:

• опыт работы DevOps/MLOps инженером;

• опыт работы с Kubernetes;

• опыт контейнеризации (Docker, docker-compose);

• опыт работы с CI/CD.