LLM Engineer

Описание вакансии

HuntIT - это передовое рекрутинговое агентство, которое специализируется на поиске и подборе высококвалифицированных специалистов в сфере IT и Digital, сотрудничает с ведущими IT-компаниями, рекламными агентствами и работает над крупными проектами.

Сейчас мы находимся в поиске LLM Engineer в IT-компанию 01.tech. Основные проекты компании - это высоконагруженные системы, которые каждый день обрабатывают десятки тысяч запросов в секунду, терабайты данных и привлекают и поддерживают более 100 миллионов пользователей по всему миру.
01.tech - это минимум бюрократии, максимум взаимодействия и комфортной коммуникации, решение сложных задач, позволяющих сотрудникам развивать свои навыки.

Твои задачи и зона ответственности:

Разработка чат-бота для службы поддержки.
После завершения проекта чат-бота — участие в ряде других проектов на базе LLM.
Создание и внедрение решений с использованием LLM от OpenAI и других провайдеров.
Написание промтов.
Построение пайплайнов Retrieval-Augmented Generation (RAG) и агентных систем.
Разработка полноценных сервисов и их интеграция в производство.
Оценка стоимости использования LLM в рамках проектов.
Совместная работа с MLOps-инженерами по настройке и поддержке мониторинга для отслеживания качества работы сервисов в реальном времени.

Требования:

Опыт работы с облачными платформами и API для взаимодействия с языковыми моделями.
Опыт построения RAG-пайплайнов и агентных систем.
Опыт оборачивания пайплайнов в API сервисы.
Опыт вывода в продакшен чат-ботов.
Опыт с базами данных и хранилищами данных для обработки и хранения текстовых данных.
Владение Python на уровне, достаточном для разработки сервисов, включая применение принципов ООП.
Желательно: знания и опыт работы с инструментами для настройки и дообучения языковых моделей на специфичных данных.