Devops/LLMOps

Проект крупного бангка

Обязанности:

• Разработка и управление LLM пайплайнами для обработки данных, развертывания моделей
• Автоматизация LLM задач с использованием CI/CD и контейнерных технологий
• Настройка систем мониторинга для отслеживания производительности моделей
• Оптимизация инфраструктуры и конфигурация больших языковых моделей для высоких нагрузок
• Анализ требований проекта и оценка необходимых аппаратных ресурсов Мониторинг использования ресурсов и планирование масштабирования инфраструктуры

• ​​​​​​​​​​​​​​Высшее образование: техническое, математическое и тд.
• Опыт работы DevOps инженером от 3х лет
• Опыт в DevOps, MLOps или backend
• Уверенное владение Python
• опыт в ML-инструментах (Kubeflow, MLflow, Seldon), фреймворках (PyTorch/TensorFlow)
• Опыт работы с облачными платформами (AWS, Azure, GCP)
• Знание Docker, Kubernetes и CI/CD инструментов

• Возможность участия в интересном проекте
• Возможность профессионального и карьерного роста в компании;
• Опыт работы в команде профессионалов;
• Уровень заработной платы обсуждается индивидуально
• Удаленный формат работы.