LLM/ML Engineer (Java-first)

Мы ищем опытного LLM/ML инженера, который станет ключевым экспертом по интеграции больших языковых моделей в нашу Java-систему. Наш Продукт анализирует обратную связь корпоративных клиентов банка — от сбора данных до формирования рекомендаций через корпоративные LLM.

Первый этап отбора на эту вакансию – общение с AI-рекрутером. После отклика ждите сообщение от него в Сберчате, диалог займёт примерно 10 минут. Задача AI-рекрутера — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры.

AI-рекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным для всех!

Обязанности

• проектирование и разработка модулей обработки с использованием LLM

• написание, версионирование и оптимизация промптов для корпоративных моделей

• построение и поддержка eval-наборов: вопросы + эталоны + метрики качества

• проведение A/B тестов промптов и параметров

• разработка интеграции LLM через REST API: подготовка данных, формирование запросов, обработка ответа

• контроль галлюцинаций, безопасности (guardrails), времени отклика и стоимости

• настройка мониторинга и отслеживания работы LLM

• передача экспертизы по LLM Java-разработчикам.

Требования

• коммерческая разработка на Java от 3 лет

• опыт интеграции LLM в промышленные условия: понимание возможностей и ограничений корпоративных моделей

• понимание промпт-инжиниринга: структура промптов, примеры, подсказки в мышлении, защита от некорректных ответов

• опыт построения eval-наборов и метрик качества LLM

• опыт работы с API: REST API, JSON, ретраи, таймауты, сериализация

• опыт работы с безопасностью API: хранение ключей, авторизация, работа с чувствительными данными

• опыт работы с асинхронными задачами и очередями

• умение самостоятельно декомпозировать задачи и принимать технические решения.

Условия

• комфортный современный офис рядом с м. Кутузовский проспект

• график – офис

• срочный ТД до 01.08.27

• ежегодный пересмотр…