Senior Data Scientist

Jarvis - умный плагин для автоматического дополнения и обработки кода, поиска уязвимостей и автоматизации документации.
Мы занимаемся трансформерными моделями для задач обработки естественного языка.
В рамках проекта нам необходим Senior Data Scientist, который поддержит направление поиска уязвимостей в коде, включая все популярные языки программирования внутри банка.

Задачи:

— имплементация и обучение новых state-of-the-art моделей, как для русского языка, так и мультиязычных

— распределенное обучение моделей на суперкомпьютере в сотни GPU

— эксперименты по оптимизации моделей, ускорению обучения, новым методам распределенного обучения и инференса

— работа над созданием надежного, быстрого и масштабируемого пайплайна для обучения гигантских моделей в десятки миллиардов параметров.

Требования:

— хорошее понимание современных архитектур нейронных сетей, Seq2Seq, трансформеры, BERT, GPT, T5 и т.п.;

— опыт работы с Pytorch или TF; мы пишем на Pytorch;

— умение читать и разбирать статьи о новых архитектурах и подходах;

— понимание принципов обучения, тюнинга, оценки deep learning моделей;

— опыт отладки нейронных сетей и модификации архитектур или создания собственных;

— уверенное знание Python, Git, Linux shell.

Будет плюсом:

— опыт распределенного обучения на нескольких GPU и серверах;

— опыт работы с CUDA;

— опыт оптимизации или сжатия/дистилляции моделей;

— опыт воспроизведения статей в коде;

— знание C++;

— ШАД;

— наличие публикаций по Deep Learning.

—  вилка: 230к-420к net + годовая премия (2-4 окладов)

—  самые инновационные, амбициозные проекты и задачи

—  профессиональное обучение, семинары, тренинги, конференции, корпоративная библиотека

—  ДМС, страхование жизни

—  свободный дресс-код

—  гибкий график для оптимального баланса работы и личной жизни

—  льготные кредиты и корпоративные скидки.