Edge AI Engineer (SberAI)

Мы — команда, которая занимается обучением LLM, VLM и CV моделей. Создаем нативные омнимодальные архитектуры, новые способы кодирования и совместного обучения в доменах изображений, аудио, видео и т.д.

Наши основные направления: обучение LLM и VLM с нуля, разработка новых архитектур, Computer Vision research, создание opensource инструментов, сбор и подготовка данных, деплой моделей для MVP. Работаем на кластере с GPU уровня H100.

Ищем Edge AI / ML Deployment инженера, который проведёт модель через весь путь от RnD-прототипа до prod-ready решения: оптимизация инференса, квантование и запуск на Edge-девайсах, масштабирование на кластерах.

Обязанности

• подготовка RnD-технологий к prod-ready решению;

• оптимизация моделей и кода инференса для масштабирования на кластерах;

• подготовка и запуск моделей на Edge-девайсах (Nvidia Jetson, Rockchip, Amlogic Khadas).

Требования

• опыт работы с Nvidia Jetson (Orin, Xavier, Nano);

• уверенный C++ (для инференса) + Python (для скриптов и подготовки);

• умение делать квантование моделей из PyTorch-весов (FP32, FP16, FP8, FP4), квантование (INT8, INT4), QAT и калибровка моделей;

• Linux, CMake, опыт кросс-компиляции под ARM.

Будет плюсом:

• опыт работы с NPU от Rockchip (RK3588, RK3568, RV1126) / Amlogic (A311D, C308X, Khadas);

• знание API Nvidia CUDA

Условия

• комфортный современный офис рядом с м. Кутузовская

• гибридный формат работы

• ежегодный пересмотр зарплаты, годовая премия от 3х окладов

• большой спортзал и зоны отдыха

• система обучения для профессионального и карьерного развития

• расширенный полис ДМС с первого дня работы и страхование для семьи

• программа ипотеки для сотрудников со скидкой -1/3 от текущей ставки

• подписка Прайм с возможностью совместного использования на трёх близких

• вознаграждение за рекомендацию друзей в команду Сбера.