Ведущий инженер-разработчик LLM

Федеральное государственное бюджетное учреждение запускает стратегический проект по созданию собственной языковой модели (LLM) для внутреннего использования. Модель будет разрабатываться с нуля под закрытым контуром организации – от выбора архитектуры и платформы до программирования, обучения и внедрения в рабочие процессы. Мы ищем ключевого специалиста, который возьмёт на себя полный технический цикл и сформирует ИИ-направление внутри учреждения.

Обязанности:

• провести анализ потребностей и определить оптимальную стратегию: обучение модели с нуля или глубокая адаптация открытых решений под закрытый контур;

• сформировать с нуля и возглавить команду, распределить зоны ответственности между ML-инженерами, дата-инженерами и DevOps;

• спроектировать архитектуру LLM, выбрать стек технологий, фреймворки и вычислительную платформу (on-premise или доверенная облачная среда) с учётом ограничений бюджетной организации и требований информационной безопасности;

• организовать полный цикл работы с данными: сбор, очистка, фильтрация, токенизация и разметка корпуса внутренних текстов с соблюдением законодательства о персональных данных и государственной тайны;

• обучить, валидировать и оптимизировать модель под ключевые бизнес-задачи (генерация документов, смысловой поиск, вопросно-ответные системы, классификация, суммаризация);

• развернуть LLM в продуктивном закрытом контуре, обеспечить стабильность и безопасность инференса, реализовать API для интеграции с внутренними информационными системами.

Требования:

• подтверждённый успешный опыт создания языковой модели с нуля (предобучение или глубокая адаптация под закрытый контур) с измеримым результатом: в резюме или портфолио должна быть раскрыта ваша роль и достигнутые показатели;

• глубокое знание архитектур трансформеров (GPT, BERT, LLaMA и т.п.), опыт работы с PyTorch/TensorFlow, Hugging Face Transformers, библиотеками распределённого обучения (DeepSpeed, Megatron-LM и аналогами);

• практический опыт подготовки и…