LLM DevOps-инженер

Ваша зона ответственности:

• Разработка и управление LLM-пайплайнами для обработки данных, развертывания моделей
• Автоматизация LLM-задач с использованием CI/CD и контейнерных технологий
• Настройка систем мониторинга для отслеживания производительности моделей
• Оптимизация инфраструктуры и конфигурация больших языковых моделей для высоких нагрузок
• Анализ требований проекта и оценка необходимых аппаратных ресурсов
• Мониторинг использования ресурсов и планирование масштабирования инфраструктуры

Необходимые навыки:

• Высшее образование: техническое, математическое и т.д.
• Опыт работы DevOps-инженером от 3-х лет; опыт в DevOps, MLOps или backend
• Уверенное владение Python
• Опыт работы с облачными платформами (AWS, Azure, GCP)
• Знание Docker, Kubernetes и CI/CD инструментов
• Автоматизация процессов развертывания и масштабирования
• Интеграция систем мониторинга и оповещения
• Обеспечение безопасности и производительности LLM-систем
• Преимуществом будут опыт работы на ML-проекте, понимание архитектуры генеративного ИИ и работы с LLM