Инженер NLP/PLP Senior

Мы Digital-студия Saltwort, занимаемся разработкой, автоматизацией, сопровождением и продвижением как для небольших компаний, так и для гигантов отрасли.

Сейчас активно развиваем направление аутстаффинга, так как у нас значительно выросло количество клиентов и партнёров среди крупных компаний РФ.

В связи с увеличением объемов приглашаем на долгосрочный проект в свою команду Senior NLP/PLP-инженера.

О проекте:
Business intelligence инструменты визуализации данных и предоставление актуальной аналитики, в том числе проведения ad-hoc запросов и пилотных исследований, а также продуктовой аналитики для пользователей.
Предоставление удобного доступа к актуальной аналитике для широкого круга пользователей. BI-инструмент с низким порогом входа, low-code решение.

Задачи:
• Основной фокус – Instruct tuning для задач Text-to-SQL / NL2SQL и PLP
• Дизайн экспериментов, формулировка гипотез для улучшения NLP/PLP моделей и алгоритмов, планирование исследовательских экспериментов с выводами
• Проведение экспериментов, написание кода, подготовка датасетов и бенчмарков, проведение замеров и анализ результатов;
• Обучение моделей на кластере, включая обучение моделей с нуля и дообучение опенсорс моделей
• Взаимодействие с прод-командой для интеграции моделей и алгоритмов в продакшн
• Ориентированность на SOTA, читать пейперы, быть в курсе последних исследований, предлагать новые смелые подходы и направления

Требования:
• Опыт не меньше 4,5 лет в данной сфере/смежных сферах
• Хорошие теоретические знания в DL, с упором в современный NLP и трансформеры
• Умение формулировать эксперименты с научной строгостью, обосновывать их, проводить самостоятельно и делать выводы
• Опыт обучения трансформеров
• Опыт распределенного обучения моделей (deepspeed, fsdp, torch.distributed, accelerate)
• Знание стандартных библиотек для DL и NLP (PyTorch и библиотеки Huggingface)
• Знания lora/p-tune и других peft/sft-подходов
• Знакомство с Spider/CoSQL

Будет плюсом:
• Опыт работы на похожей позиции
• Участие в соревнованиях по ML
• Сабмиты на лидербордах по NLP/PLP
• Публикации уровня А/A, Q1
• Обучение моделей на кластере, опыт распределенного обучения

Условия:
Удалённая работа
Выплаты 1/2 раза в месяц
Долгосрочный проект от 6 месяцев
Сильная команда увлеченных своим делом людей
Сотрудничество по ИП (при необходимости помогаем в открытии и ведении ИП), в дальнейшем возможен пересмотр вариантов сотрудничества