Middle AI Engineer

Halyk Банк – это мощная экосистема, где технологии сочетаются с ценностями.

Мы гордимся более чем 14 000 работниками, которые делают нас лучшим местом работы. Мы предоставляем услуги во всех сегментах финансового рынка: банковском, страховом, лизинговом и т.д.

Мы стремимся стать ведущим цифровым банком, внедряя инновации и предоставляя возможности для роста и развития.

Мы ищем талантливых специалистов, готовых развиваться вместе с нами!

Обязанности:

• Разработка и внедрение LLM/VLM-решений для бизнес-задач компании;

• Проектирование и построение RAG-пайплайнов для работы с корпоративными данными Разработка и оптимизация мульти-агентных систем на базе LangGraph и LangChain Настройка и обслуживание инференс-серверов (vLLM, TGI, TensorRT-LLM) Fine-tuning моделей (LoRA, QLoRA, RLHF, DPO) под специфические задачи;

• Разработка REST API на FastAPI для интеграции ML-сервисов в продукт;

• Контейнеризация и деплой ML-сервисов с помощью Docker и Kubernetes;

• Оптимизация производительности моделей: квантизация, батчинг, управление GPU-памятью;

• Проектирование и поддержка векторных баз данных для хранения эмбеддингов;

• Написание и поддержка автоматических тестов для ML-пайплайнов;

• Мониторинг качества моделей в продакшене (LangSmith, OpenTelemetry);

• Проведение бенчмарков и A/B-тестов для сравнения моделей и подходов;

• Работа с GPU-инфраструктурой: настройка multi-GPU, распределённое обучение

• Подготовка и очистка данных для обучения и оценки моделей;

• Исследование и внедрение новых моделей, техник и фреймворков;

• Написание технической документации и ADR (Architecture Decision Records);

• Участие в код-ревью и менторинг младших специалистов;

• Взаимодействие с продуктовой командой для определения требований и приоритетов;

• Оптимизация стоимости облачной GPU-инфраструктуры;

• Обеспечение безопасности и надёжности ML-сервисов в продакшене.

Требования:

• Python;

• Python 3.10+ (async/await, type hints, dataclasses). SOLID, Clean Architecture…