Senior Data Scientist (AI Safety)

Мы строим систему управления операционными рисками экосистемы Сбера на основе агентного ИИ. Если тебе тесно в роли просто сильного разработчика, а хочется вести за собой команду единомышленников, реализуя проекты уровня Enterprise — тебе к нам. Мы ищем человека, который сочетает в себе экспертизу в машинном обучении, инженерии и безопасности. Ты будешь не просто строить защитные механизмы, а определять архитектуру безопасного ИИ, влияя на надёжность и устойчивость крупнейшего банка страны.

Обязанности

• создавать гардрейлы: разрабатывать системы защиты для AI‐агентов на базе GigaPlatform и других open‐source LLM — защита от промпт‐инъекций, фильтрация токсичности, контроль галлюцинаций (Intrinsic/Extrinsic/Fine-tuned Detectors), валидация выходов

• тьюнить LLM: адаптировать и дообучать наши LLM (Prompt Tuning, LoRA, SFT, GRPO), чтобы они были устойчивы к вредоносным воздействиям и давали безопасные ответы

• исследовать: изучать новые технологии и SOTA подходы по AI Safety, делиться опытом и развивать культуру R&D в команде.

• внедрять: участвовать в выводе гардрейлов в продакшн

• работать на мощном железе: 8–16 A100 80 GB

• технологический стек: vLLM, ollama, llama.cpp, LangChain, Guardrails AI / NeMo Guardrails, Transformers, PyTorch Lightning, MLflow.

Требования

• опыт в DS / MLE от 2 лет , желательно с фокусом на безопасность ИИ или защиту LLM.

• математическая база: высшее техническое образование с глубоким пониманием алгоритмов и структур данных.

• экспертиза в ML/DL : опыт обучения нейросетей (от классических RNN до трансформеров).

• понимание уязвимостей LLM: промпт‐инъекции, джейлбрейки, data poisoning, галлюцинации — и способов защиты от них.

• опыт построения гардрейлов (rule‐based, ML‐based, гибридных) и/или участия в red teaming LLM.

• писать хороший код: соблюдать Clean Architecture, SOLID, поддерживать Git Flow.

• будет крутым плюсом: опыт в соревнованиях (Kaggle Expert+), участие в open‐source проектах по AI Safety, наличие публикаций…