Java-разработчик ML-платформы

Мы разрабатываем внутреннюю ML‐платформу, которая помогает ML‐разработчикам быстро и предсказуемо доводить модели до продакшена — от готовой модели до стабильного продового инференс-сервиса, который можно передавать внешним командам на интеграцию.

На платформе больше тысячи моделей и суммарно десятки тысяч запросов в секунду.

Задачи платформы:

• Сокращение time‐to‐market (TTM): убираем ручные шаги, стандартизируем путь модели в прод и делаем его воспроизводимым и прозрачным

• Эффективность и надёжность: большинство моделей работают на GPU, поэтому важно минимизировать простои, корректно масштабироваться под нагрузку и сохранять устойчивость сервиса даже при сбоях на уровне инфраструктуры/железа

Задачи инженера

• Развивать backend-инфраструктуру инференс-платформы

• Работать над эффективным использованием GPU

• Совместно с командой инфраструктуры улучшать end‐to‐end надёжность

Требования

• Опыт разработки на Java

• PostgreSQL

• Опыт работы с микросервисами

Будет плюсом

• Опыт работы с ML

• Опыт работы с Inference Backend'ами

• Опыт работы с Nvidia GPU