Специалист по кибербезопасности AI/LLM-решений

Мы ищем специалиста по кибербезопасности, который поможет безопасно внедрять и сопровождать такие решения.

Роль находится на стыке Application Security, DevSecOps, Cloud/Kubernetes Security и безопасности GenAI/LLM/AI-агентов.

Что предстоит делать:

• Проводить security review AI/LLM-решений: LLM-приложений, AI-агентов, RAG, векторных БД, интеграций с внешними API и облачными LLM;

• Участвовать в threat modeling AI-решений: prompt injection, jailbreak, утечки данных, небезопасные tool calls, избыточные привилегии AI-агента, RAG/data poisoning;

• Проверять наличие и корректность защитных механизмов: guardrails, фильтры персональных данных, ограничения длины prompt/response, rate limiting, валидация ответов, контроль вызовов tools;

• Оценивать безопасность работы с данными: персональные данные, конфиденциальная информация, источники данных для RAG, embeddings, индексы векторных БД;

• Проверять, что AI-агенты работают по принципу минимально необходимых привилегий и не выполняют чувствительные операции без ручного подтверждения;

• Проверять изоляцию пользовательских сессий, контекстов и памяти AI-решений;

• Участвовать в проверке безопасности локального запуска LLM в Kubernetes: контейнеры, RBAC, secrets, network policies, ingress, resource limits;

• Формировать требования к логированию, аудиту и трассировке AI-решений: trace ID, логи prompt/response, вызовы модели, вызовы tools, действия AI-агента;

• Разрабатывать тестовые сценарии для проверки AI-решений на prompt injection, утечки данных, обход ограничений и небезопасное поведение агента;

• Помогать командам разработки и эксплуатации безопасно использовать локальные и облачные LLM.

Требования:

• Опыт в кибербезопасности от 2–3 лет в одной или нескольких областях: Application Security, DevSecOps, Cloud Security, Kubernetes Security, API Security, Product Security;

• Понимание принципов security review, threat modeling и безопасной разработки;

• Понимание web/API-безопасности: аутентификация…