Руководитель направления безопасности GenAI-моделей (разработка программного обеспечения)

Предлагаем вам возможность присоединиться к команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе ИИ-агентов. В коллективе опытных экспертов вы будете разрабатывать программное обеспечение для автоматизации исследования и тестирования безопасности GenAI моделей.

Вам предстоит:

• разработка программного обеспечения: создание, поддержка и развитие инструментов для анализа и поиска угроз GenAI, в т.ч.:

• разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения)

• создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (python скрипты, библиотеки: flask/fastapi, asyncio, pydantic, langchain/gigachain, ИИ агенты для генерации кода)

• DevOps: CI/CD, контроль версий (git), тестирование качества ПО (pytest, mypy, black), инфраструктура для работы (linux)

• внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ моделей

• погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и ИИ агентами.

Что для нас важно:

• профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений

• продвинутые навыки программирования на Python: понимание принципов проектирования и разработки программного обеспечения, асинхронное программирование, API (REST), умение писать чистый (понятный, поддерживаемый) код

• навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО

• LLM и AI агенты: опыт эффективного применения LLM для разработки…