Разработчик C++ (VLLM, SGlang, TesorRT)

Мы — команда синтеза речи в GigaPlatform. Создаём и развиваем технологии синтеза речи. Решаем полный цикл задач синтеза, включающий и собственно синтез, в том числе на LLM, и NLP-задачи, и многое другое. Недавно мы выпустили мощное обновление нашего синтеза, которое на голову выше того, что было раньше, особенно по естественности и "человечности" (https://habr.com/ru/companies/sberbank/articles/966640/). На достигнутом останавливаться не планируем, и уже готовим ещё более качественную модель синтеза. Сейчас мы расширяем команду отдела production-внедрения.

Ищем талантливых DL-инженеров, которые понимают как модели работают на уровне математики и аппаратуры.

Обязанности

- низкоуровневая оптимизация работа с «железом»

- поддержка инфраструктуры взаимодействия с LLM

- вывод новых архитектур в prod

Требования

- опыт работы в области глубокого обучения, в том числе с LLM

- глубокое знание CUDA и Python

- знание и опыт работы с фреймворками TensorRT, vLLM и SGlang

- приветствуется опыт с C++

Условия

• комфортный современный офис рядом с м. Кутузовская
• возможность выбрать удобный график – офис/гибрид/удаленка (в РФ)
• годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• ипотека для сотрудников по дисконтной прогамме
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.