Наша команда - Внедрение AI-решений блока Стратегии и Развити. Мы выполняем сервисную функцию, к нам обращаются за помощью разные продуктовые команды, которые делают крутые продукты для руководства Сбера.
В самой команде 3 человека.
В блоке Стратегии и Развития, с нами взаимодействует ~50-80 человек.
Обязанности
- Запускать свежайшие LLM на серверах, например: Qwen, Gemma, Deepseek.
- Запускать сопутствующие сервисы типа векторных БД, например Qdrant.
- Настраивать мониторинг и логирование. Обеспечивать надежность.
- Разворачивать llm-приложения и агенты в Kubernetes.
- Настраивать CI/CD для деплоя моделей, у нас Jenkins.
- Писать служебные сервисы для взаимодействия с LLM.
Стек:
- Python
- Jenkins
- Sglang/vLLM/ollama/llama.cpp
- Linux
- Grafana/Kibana
- Kubernetes/OpenShift
Требования
Навыки:
- Знание Python.
- Знание Linux.
- Опыт инференса моделей (Sglang, vLLM, llama.cpp).
- Автоматизация CI/CD (Jenkins).
- Контейнеризация (Docker) и управление кластерами (Kubernetes).
- Администрирование GPU-инфраструктуры.
- Мониторинг моделей (дрейф данных, метрики качества) с помощью Prometheus/Grafana.
Образование и опыт:
- Высшее образование (Computer Science, Data Engineering или смежные области).
- 1+ года в MLOps/ML Engineering/DevOps-ролях.
Условия
- комфортный современный офис рядом с м. Кутузовская
- возможность выбрать удобный график – офис/гибрид
- ежегодный пересмотр зарплаты, годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- ипотека для сотрудников выгоднее до 7%
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.