Data Scientist в команду LLM Core

О команде

Наша команда обучает собственные базовые LLM и внедряет их в бизнес-сценарии Авито. Цель команды — обеспечить продукты моделями, которые подходят по качеству ответов и стоимости применения.

Мы адаптируем open source-решения под русский язык и доменную специфику Авито с помощью continual pre-training и подмены токенизатора. Для развития моделей команда исследует новые методы, пайплайны, включая RL и синтетические данные, а также датасеты. Мы проводим регулярные LLM-семинары, где разбираем статьи и AI-тренды.

Технический фокус команды — построение масштабируемого пайплайна для претрейна и дообучения LLM, а также оптимизация инференса: работа с современными движками, квантованием, speculative decoding и другими методами ускорения.

Мы ищем Data Scientist в команду LLM Core. Вам предстоит создавать и развивать базовые языковые модели для аудитории Авито: от постановки исследовательской гипотезы и проведения экспериментов до внедрения решений в продакшен. В этой роли вы сможете влиять на архитектуру моделей, обучающие пайплайны и качество LLM-стека компании.

Примеры будущих задач:

— формулировать и проверять гипотезы в области претрейна, continual pre-training, post-training, RL, синтетических данных и архитектур моделей;

— самостоятельно вести сложные исследовательские и инженерные задачи: от постановки цели, выбора метрик и дизайна экспериментов до реализации, анализа результатов и внедрения;

— масштабировать обучение и инференс: профилировать узкие места, повышать эффективность распределённого обучения и инференса, работать с квантованием, speculative decoding и современными inference-движками;

— строить надёжные процедуры оценки качества, проводить анализ ошибок, находить регрессии и проектировать датасеты и метрики для сравнения моделей по качеству, latency и стоимости;

— писать продакшен-код на Python и PyTorch, проводить code review, улучшать воспроизводимость экспериментов, надёжность и поддерживаемость ML-решений;

— делиться знаниями…