Head of ML Infrastructure & Platform

Хотите стать частью увлекательного процесса цифровой трансформации?

Блок IT в СОГАЗ активно развивается и меняет подход к созданию продуктов. Мы создаем новые сервисы и решения, которые делают нашу работу более технологичной и эффективной.

Сейчас мы в поисках Руководителя инфраструктуры и платформы AI, который возьмёт на себя техническую ответственность за AI инфраструктуру компании и AI-платформу: от вычислительной инфраструктуры и размещения моделей до оркестрации, мониторинга и отказоустойчивости.​​​​​​​

Задачи:

1. Вычислительная инфраструктура и GPU

• Развивать инфраструктуру для размещения и эксплуатации AI/ML-моделей во внутреннем контуре

• Участвовать в планировании вычислительных мощностей и эффективного использования GPU-ресурсов

• Определять подходы к размещению моделей, управлению ресурсами и масштабированию inference-нагрузки

2. Модели и ML/LLM-инфраструктура

• Развивать платформу для деплоя, запуска и эксплуатации моделей

• Определять подходы к model serving, маршрутизации запросов и оптимизации inference

• Развивать процессы жизненного цикла моделей, конфигураций и версий

• Обеспечивать возможность подключения и эксплуатации разных моделей и AI-компонентов

3. Агентная платформа и оркестрация

• Развивать платформу, на которой внутренние пользователи создают и запускают AI-агентов

• Проектировать и развивать runtime и оркестрацию выполнения агентных сценариев

• Обеспечивать взаимодействие моделей, инструментов, сервисов и корпоративных систем

• Развивать технические механизмы управления ресурсами, доступами, лимитами и состоянием выполнения

• Повышать удобство использования платформы для внутренних разработчиков

4. Техническая стратегия и архитектура AI-платформы

• Формировать техническое видение и архитектуру платформы развития AI

• Определять ключевые инженерные приоритеты и технологические стандарты

• Проектировать платформу с учётом масштабируемости, безопасности, надёжности и эффективности использования ресурсов

• Принимать…