Senior ML Engineer (Sber AI)

Мы в Sber AI ищем Middle/Senior ML Engineer .

Коротко о нас: мы – молодая команда, которая тесно работает с людьми, принимающими решения большого масштаба. Делаем проекты, влияющие на то, как устроены процессы в стране и разрабатываем стратегии развития ИИ. Параллельно занимаемся AI Journey – одной из самых больших AI-конференций в мире.

Обязанности

• развёртывание и оптимизация локального инференса LLM: подбор моделей, квантизация, настройка производительности

• оценка требований к GPU под нагрузку

• построение и улучшение поиска по документам (RAG): эмбеддинги, гибридный поиск, реранкинг

• дообучение моделей под задачи заказчика (LoRA, SFT)

• настройка промптов, структурированного вывода и вызова инструментов для агентных сценариев

• разработка агентного харнесса: цикл агента, управление контекстом и памятью, лимиты шагов, обработка ошибок инструментов, восстановление после сбоев

• разработка MCP-серверов для доступа агентов к системам и данным заказчика: реестры, документооборот, базы знаний, внутренние API

• настройка tool calling и структурированного вывода у локальных моделей.

Требования

• опыт от 3 лет в ML/NLP, из них не менее года с LLM

• PyTorch, Hugging Face (transformers, PEFT)

• опыт локального инференса: vLLM, SGLang

• квантизация на практике: AWQ, GPTQ, GGUF, понимание компромисса между качеством и скоростью

• понимание устройства инференса: KV-cache, батчинг, latency и throughput, расчёт памяти

• опыт написания собственного MCP-сервера

• опыт построения RAG-систем

• уверенный Python, Docker на рабочем уровне

Будет плюсом:

• опыт fine-tuning с LoRA

• работа с open-weight моделями (Qwen и аналоги) на русском языке

• опыт агентных систем и tool calling.

Условия

• комфортный современный офис рядом с м. Кутузовская

• гибридный формат работы

• ежегодный пересмотр зарплаты. Годовая премия

• корпоративный спортзал и зоны отдыха

• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

• …