DevOps инженер по безопасности ИИ

В Дирекции ИТ Центрального офиса федеральной розничной сети лента открыта вакансия DevOps инженера по безопасности ИИ.

ИТ-команда "ЛЕНТЫ" - одна из сильнейших в ритейле, на плечах которой непрерывная работа корпоративной сети, информационная стабильность и безопасность.

Сила "ЛЕНТЫ" в ее сотрудниках и мы предлагаем Вам стать частью большой, но сплоченной команды профессионалов!

Ваши задачи:

• Безопасный инференс LLM: локально в защищённом облаке и через внешние шлюзы.

• Работа с моделями: DeepSeek, Qwen, специализированные модели для разработки, малые модели (Whisper, GigaAM и др.).

• Развёртывание новых моделей: быстрый деплой + обязательная проверка ИБ.

• Выбор моделей под задачи: бенчмарки, сравнение (GLM, DeepSeek и аналоги).

• Снятие метрик: latency, обрывы, TTFT.

• Разделение разработки: супер-критичная — только локально, остальное — в облаке.

Шлюзы доступа к внешним моделям:

• Прокси-шлюз для обхода блокировок, оплата агрегатору по токенам с корп. счёта.

• Работа через OpenRouter, подключение новых моделей за 15 минут.

• Внутренний шлюз в контуре (LiteLLM).

• Закрытие несанкционированных точек подключения к агрегаторам.

• Биллинг, квотирование, управление ключами, мультитенантность.

ИБ-слой и AI Firewall:

• Внедрение AI firewall, PII-маскирование и демаскирование.

• Детектирование КТ, гварды, работа с перечнем угроз.

• Плотное взаимодействие с ИБ.

Ждем от вас:

• Опыт построения безопасного инференса LLM (локально и в облаке).

• Понимание AI Security: PII, guardrails, prompt injection, data leakage, КТ.

• Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам.

• Опыт с AI firewall и системами маскирования/демаскирования.

• Работа с локальными харнессами (opencode, qwencode, Claude Code, Codex) и sandbox.

• Observability: LangFuse, Prometheus, Grafana.

• Понимание MCP, MCP registry, интеграций с k8s, Jira, Confluence, GitLab, Exchange.

• Опыт с RAG, Vector DB, hybrid search, LangChain / LangGraph / Mastra.

•…