AI Security Researcher & Engineer, MLSecOps (AI Security Startup)

SpaceAI — инфраструктурный слой и proxy для защиты, контроля и безопасного внедрения LLM-моделей и AI-агентов в корпоративную среду.

Через SpaceAI проходят запросы к моделям, tool calls и действия агентов. Платформа управляет доступом, применяет политики безопасности, оценивает риски, запрашивает подтверждение критических операций и формирует полный аудиторский след.

Ищем AI Security Researcher , который будет исследовать угрозы для LLM и агентных систем, проектировать механизмы защиты и превращать их в работающие компоненты продукта.

Это позиция на пересечении AI Security, platform engineering и applied research .

Чем предстоит заниматься

• Исследовать уязвимости LLM-приложений, AI-агентов, RAG-систем, MCP-серверов и межагентных взаимодействий.

• Разрабатывать сценарии атак: prompt injection, data exfiltration, tool misuse, privilege escalation, agent hijacking и supply-chain attacks.

• Проектировать и разрабатывать компоненты платформы управления и защиты AI-агентов.

• Создавать механизмы контроля запросов, tool calls и действий до их выполнения.

• Реализовывать policy enforcement: RBAC, ABAC, capabilities и контекстные правила доступа.

• Разрабатывать Risk Analyzer с решениями allow, verify, approve и block.

• Реализовывать Human-in-the-Loop для подтверждения критических операций.

• Разрабатывать guardrails, DLP, PII masking, input/output-фильтры и обнаружение секретов.

• Проектировать sandboxing, безопасное выполнение действий и kill-switch.

• Развивать аудит, трассировку, observability и инструменты расследования.

• Создавать коннекторы к API, базам данных, корпоративным системам и агентным протоколам.

• Разрабатывать тестовые стенды, attack suites и AI Security-бенчмарки.

• Проводить red teaming платформы и подключаемых AI-систем.

• Участвовать в формировании архитектуры и технического roadmap SpaceAI.

Примеры задач

• Разработать сервис, который перехватывает tool call агента и проверяет его по политикам…