MlOps Engineer

Кого мы ищем и чем мы занимаемся:

• ​​​​​​​Мы разрабатываем lowcode-платформу для создания ассистентов и мультиагентных систем на базе opensource LLM для автоматизации ключевых процессов наших бизнес-заказчиков.
• Мы ищем в команду MlOps Engineer, который будет развивать и масштабировать backend-сервисы платформы.

Технологический стек на проекте:

• Back: Python, FastAPI, Kubernetes, Kafka, Redis;
• БД: PostgreSQL, Opensearch/Elasticsearch;
• Front: React, TypeScipt;
• ML: llamaindex/langchain, langGraph, vllm;

Что для нас важно:

• Опыт работы с Kubernetes;
• Автоматизация процессов развертывания обновления с использованием Ansible / Helm chart / Gitlab-CI;
• Знание принципов работы LLM (Large Language Models) и RAG-сервисов;
• Понимание принципов работы с векторными базами данных;
• Опыт работы с брокерами сообщений (Kafka, RabbitMQ);
• Настройка систем мониторинга на базе стека Prometheus + Grafana;

Чем предстоит заниматься:

• Оптимизировать и масштабировать RAG-сервисы для эффективного поиска и генерации данных;
• Оптимизировать и масштабировать мультиагентские системы.
• Обеспечение высокой доступности и масштабируемости систем на основе LLM;
• Проведение code-review, рефакторинг и оптимизация кода;