AI security Lead в Центр Робототехники

В Центре Робототехники Сбера мы занимаемся созданием универсального воплощенного ИИ для роботов, который способен управлять разнообразными физическими воплощениями. Кроме этого, одним из ключевых направлений нашей работы является разработка антропоморфного робота общего назначения, не безызвестного Грина.

Обязанности

• проведение Red Teaming и пентеста ИИ-агентов: поиск промпт-инъекций, отравлений данных, jailbreaks и обходов системных инструкций.

• проектирование и внедрение защиты агентов: системы модерации, детекторы, изоляция, контроль цепочек инструментов.

• консультирование инженерных команд по безопасной интеграции агентов с корпоративными системами и интернетом, помощь в проектировании архитектуры

• создание практических гайдлайнов по работе с агентами (выдаче API-ключей, ограничению доступа к файловой системе и проверке действий агента).

• проведение код-ревью пайплайнов агентов с фокусом на безопасность LLM-вызовов и обработку внешних данных.

• аудит и поиск уязвимостей в моделях управления роботом: защита от состязательных (adversarial) атак, визуальных обманок и злонамеренного переобучения.

• проектирование безопасных ML-контуров

• внедрение практик MLSecOps: сканирование весов моделей, контроль целостности датасетов, аудит-логирование решений.

• настройка безопасного деплоя: изоляция инференса в песочницах, управление секретами, мониторинг аномалий в поведении агентов.

• участие во внутренних митапах и воркшопах для работников по безопасности ИИ.

Требования

• опыт в AppSec, MLSec или Red Team от 4 лет, из них 1.5–2 года — с LLM и автономными агентами

• глубокое понимание механики LLM (контексты, tool calling, RAG), профиля нарушителя и угроз

• практический опыт Red Teaming ИИ-агентов: поиск промпт-инъекций, отравлений данных, jailbreaks

• опыт проектирования защиты агентов: системы модерации, детекторы, изоляция, контроль цепочек инструментов

• навыки консультирования инженеров и проектирования безопасной архитектуры интеграции…