ML/AI Engineer

Департамент развития AI Bereke Bank создаёт внутреннюю платформу нового поколения: на ней любой сотрудник банка сможет собрать персонального AI-агента из согласованных моделей, корпоративных знаний и инструментов.

Мы ищем ML/AI Engineer-инженера , который станет инженерным ядром нашей выделенной продуктовой команды.

Стек технологий

• Core: Python (асинхронный стек, FastAPI)

• AI / LLM: LangGraph, LangChain, LlamaIndex, GigaChain, MCP (Model Context Protocol)

• Data & Search: Qdrant (или аналоги), Hybrid Search, GraphRAG, SQL, очереди и брокеры сообщений

• Ops & Observability: Docker, CI/CD, Langfuse, современные трейсинг- и мониторинг-системы

Чем предстоит заниматься:

• Разрабатывать среду исполнения агентов: ядро платформы на Python (сессии, долгосрочная и контекстная память, планирование, изоляция пользователей, реестр инструментов).

• Создавать каталог коннекторов и навыков: интеграция Confluence, Jira, GitLab, корпоративной почты, DWH и CRM как переиспользуемых инструментов со строгими контрактами, лимитами и политиками доступа.

• Строить слой работы со знаниями (RAG): пайплайны обработки корпоративных документов, эмбеддинги, гибридный поиск, ранжирование и валидация релевантности ответов.

• Выстраивать контур оценки качества (LLM Evaluation): бенчмарки, offline-оценка, LLM-as-a-judge, автотесты и регрессионные прогоны при смене промптов или моделей.

• Обеспечивать Enterprise-безопасность: совместное проектирование с командами ИБ и IAM (технические аккаунты с минимальными правами, обезличивание/маскирование данных перед отправкой в модели, human-in-the-loop подтверждения, аудит).

• Управлять наблюдаемостью и unit-экономикой: трейсинг цепочек вызовов, версионирование, мониторинг расхода токенов и оптимизация стоимости сценариев (целевой ориентир — до 100 ₸ за выполнение).

• Развивать автономность агентов: последовательный переход от read-only ассистентов к сценариям с подтверждением и далее к автономным low-risk операциям.

Что для нас…