Middle+ AI / LLM Engineer

АО «Центр цифрового развития Национального Банка Республики Казахстан» приглашает в команду AI / LLM-инженера уровня Middle+.

Мы ищем специалиста с практическим опытом разработки на Python и работы с LLM, понимающего принципы поиска, ранжирования и оценки качества моделей, способного самостоятельно доводить задачи до результата в условиях высокого темпа.

Вам предстоит:

• Подключать внутренние и внешние сервисы через MCP и API;

• Настраивать контекст модели для обеспечения точных и безопасных ответов;

• Строить eval-пайплайны с использованием DeepEval, Ragas и LLM-as-a-judge;

• Выявлять регрессии до выхода в промышленную эксплуатацию и анализировать трейсы в LangFuse;

• Выводить решения в промышленную эксплуатацию через GitLab CI и ArgoCD;

• Работать со стеком: Python, FastAPI, LangChain, LangGraph, MCP, vLLM, SGLang, Ray Serve, Weaviate, LangFuse, Docker, Kubernetes, PostgreSQL.

Мы ожидаем от Вас:

• Коммерческий опыт разработки на Python не менее 3 лет;

• Понимание принципов работы эмбеддингов, поиска, реранкинга и методов борьбы с галлюцинациями;

• Практический опыт работы со skills, tools, MCP и контекстом моделей;

• Уверенные знания async Python, REST, gRPC, Docker и баз данных;

• Умение самостоятельно доводить задачи до результата;

• Резидентство Республики Казахстан.

Будет преимуществом:

• Опыт работы с GPU-кластерами и локальным инференсом;

• Опыт реализации проектов на LangChain или LangGraph;

• Опыт работы с инструментами оценки качества моделей и практиками GitOps.

Мы предлагаем:

• Доступ к мощному GPU-кластеру (NVIDIA H200);

• Участие в развитии AI-продуктов в активной продуктовой команде;

• Возможности быстрого профессионального и карьерного роста;

• Конкурентоспособную заработную плату по результатам собеседования;

• ДМС для сотрудника и членов семьи;

• Официальное трудоустройство и оплачиваемый отпуск;

• Полную занятость, работу в офисе;