Python разработчик (LLM)

Aналитическая платформа высокой нагрузки

Мы разрабатываем масштабируемую высоконагруженную платформу для обработки больших объемов данных, поступающих из множества источников, включая крупнейшие системы Сбера и внешние сервисы. Наша система ежедневно обрабатывает свыше 17 миллиардов событий в сутки, обеспечивая надежный сбор, хранение и обработку огромных массивов данных в режиме реального времени. Все события представляют высокую ценность, и чтобы быстро ее извлечь, мы разрабатываем ИИ-агентов для разных задач, от поиска интересующих метрик до анализа логов и реагирования на аномалии.

Обязанности

• проектирование и реализация логики агентов, использование фреймворков (LangChain, LangGraph) для построения агентных систем, настройка пайплайнов взаимодействия с LLM (prompt engineering, memory, tools, RAG).
• проектирование и реализация архитектуры взаимодействия между агентами (координация, планировщики, роли агентов)
• подключение к векторным БД (FAISS, Milvus) для RAG-архитектуры, разработка API (REST) для интеграции агентов в экосистему компании
• оптимизация запросов к LLM (batching, reuse, few-shot примеры)
• настройка мониторинга и логирования работы агентов
• управление нагрузкой и контроль стоимости вызовов LLM
• Подготовка и индексация корпоративных данных для использования в RAG
• валидация качества извлечённых данных и ответов агентов
• описание архитектуры агентов и их взаимодействия
• совместная работа с дата-инженерами, ML-инженерами и аналитиками

Требования

• python 3.x — уверенное владение (asyncio, typing, dataclasses, pydantic)
• опыт работы с LLM-фреймворками: LangChain, LangGraph
• понимание архитектур RAG (Retrieval-Augmented Generation): работа с векторными БД (FAISS, Milvus), индексация и поиск по эмбеддингам
• навыки работы с API LLM-провайдеров (у нас GigaChat)
• знание принципов prompt engineering
• опыт проектирования мультиагентных систем
• уверенное знание SQL и опыт интеграции агентов с базами данных
• опыт работы с очередями и брокерами сообщений (у нас Kafka)
• знание принципов построения REST API
• опыт контейнеризации (Docker) и базовое понимание Kubernetes
• умение проектировать архитектуру решения и обосновывать выбор технологий
• навыки командной работы: code review, работа с git-flow, взаимодействие с ML- и data-инженерами
• инициативность и умение предлагать улучшения (например, оптимизацию пайплайнов агентов)
• понимание бизнес-задач и умение переводить их в технические решения
• навыки работы с генеративными AI-моделями; опыт создания AI-агентов и использования их в работе будет преимуществом
• опыт использования GigaChat, Kandinsky и аналогов в продуктах, навыки создания и использования AI-агентов
• инструментальное владение AI для анализа, генерации и автоматизации

Условия

• комфортный современный офис рядом с м. Кутузовская
• возможность выбрать удобный график – офис/гибрид
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров.