AI-инженер

Вакансия в дочернюю аккредитованную it-компанию Ак Барс Банка.

Предоставляем профессиональные услуги в области информационной защиты.

В связи с расширением штата находимся в поисках - ИИ Инженера.

Чем предстоит заниматься:

• развертыванием и обслуживанием локальных языковых моделей (Llama, Qwen, DeepSeek) через движки вроде vLLM, Ollama, и т.п;

• сборкой полного цикла RAG: от «вытягивания» текста из PDF/Word до настройки векторного поиска и ре-ранжирования;

• оптимизацией моделей (квантование, выбор архитектуры) под конкретные ресурсы GPU, имеющиеся в компании;

• интеграцией AI-моделей во внутренние сервисы через API и созданием агентов для автоматизации задач;

• контролем качества генерации и мониторингом стабильности работы системы.

Что нужно уметь:

• опыт работы AI/ML/системным инженером, backend-разработчиком AI-сервисов от 2-3-х лет;

• опыт локального развертывания SOTA-моделей (Llama, Qwen, DeepSeek) с использованием vLLM, Ollama, TGI, и т.п;

• умение создавать полноценные пайплайны поиска и генерации: от парсинга документов и выбора стратегии чанкинга до работы с векторными БД;

• свободное владение Python и опыт создания API для интеграции моделей в сервисы;

• опыт работы с Linux (Bash) и Docker, настройка драйверов NVIDIA, CUDA;

• знание методов квантования и умение рассчитывать потребность в VRAM/RAM под конкретные модели и длину контекста;

• практический опыт работы с LangChain/LlamaIndex/ и др.

• умение фильтровать запросы, чтобы избежать утечки коммерческой тайны или ПДн через модель;

• умение самостоятельно рассчитать потребности в железе (VRAM/CPU) под требуемые или новые модели.

Что нужно знать: Python, Docker, Linux (Bash), LangChain, LlamaIndex, Hugging Face Transformers, векторные БД (Qdrant, Milvus, PGVector) и классические СУБД (PostgreSQL).

Будет плюсом:

• опыт работы с метриками качества.

Что мы предлагаем:

• работу в группе компаний холдинга, стабильность, развитую корпоративную культуру;

• уровень заработной платы…