MLOps

Мы – РТК ИТ, аккредитованная ИТ компания, оказывающая полный комплекс услуг по разработке и внедрению программных решений.

Каждый день на наших проектах задействовано 4200+ сотрудников, у нас 70+ направлений разработки различных решений. За 11 лет нашей работы мы успешно реализовали более 60 ИТ-продуктов.

О проекте:

Мы создаем передовую платформу, которая позволяет эффективно обучать, тонко настраивать и разворачивать крупномасштабные языковые модели (LLM) и другие NLP-решения. Наша цель — предоставить командам исследователей и бизнес-пользователям инструментарий для работы с современными моделями ИИ в условиях ограниченного доступа к облачным ресурсам.

Чем предстоит заниматься:

- Работа с LLM: Деплой, оптимизация и поддержка open-source моделей (Llama, Mistral, Mixal и др) для инференса в production среде;
- Внедрение продуктов на основе NLP моделей;
- Оптимизация текущих решений с акцентом на производительность и управление нагрузкой (onnx, openvino, tensorrt);
- Оптимизация пайплайна в исполненения на CPU/GPU инфраструктуре с использованием VLLM, Nvidia Triton Server;
- Исследование и прототипирование фреймворков и моделей в области Generative AI.

Что мы ожидаем:

- Опыт в оптимизации инференса (vllm, Triton Inference Server, аналоги);
- Уверенное знание Python и опыт разработки сетевых/асинхронных приложений;
- Опыт Деплоя ML-моделей в production (Docker, K8S, FastAPI/Gradio)
- Внедрения и оценки эффективности решений на основе современных NLP моделей в роли ведущего или лида проекта;

Будет плюсом, но не обязательно:- Знание Docker, CI/CD, и SQL, с готовностью разрабатывать решения с нуля;
-Опыт работы с LLM-моделями;
- Опыт работы с экосистемой Huggin Face (Transformers, PEFI, TRL)
- Знание основ face-tunning трансформеров и адаптивного обучения (Lora, QLora)
- Опыт участия в проектах по внедрению Gen AI-решений.

Мы предлагаем:

- Удаленный или гибридный формат работы;
- Возможность принимать участие в конференциях, проходить обучение за счет компании;
- Полностью "белая" заработная плата: оклад + годовая премия;
- Кафетерий льгот, который искренне любят наши сотрудники;
- График работы гибкий: начало работы с 08:00 до 10:00 МСК, окончание - с 17:00 до 19:00 МСК, Сб-Вс – выходные.