BigData / DWH разработчик
Требования
Местоположение и тип занятости
Компания
Описание вакансии
О компании и команде
В команде ETL X5 Технологии открыта позиция DWH разработчик
Наш стек: Apache Nifi, Apache Airflow, Kafka, Hadoop, Hive, Greenplum
На данный момент, у нас несколько кластеров СУБД Greenplum общий емкостью более 100 терабайт и кластер Hadoop общей емкостью 6 петабайт.
Команда разработки/развития DWH отвечает за прогрузку данных из кластера Hadoop в СУБД Greenplum. Построение основных слоёв хранилища по методу моделирования данных - Data Vault. Проверку архитектурных гипотез на практике и выработку предложений по выбору инструментов для наиболее эффективной реализации задач.
Результат нашей работы - стабильно работающее хранилище, удовлетворяющее потребностям заказчиков и техническим веяниям времени.
Чем предстоит заниматься:
- Проектирование и разработка потоков данных на ETL/ELT инструментах;
- Имплементация кастомных трансформаций;
- Проектирование и построение прототипов, витрин;
- Анализ производительности, масштабирование существующих систем;
- Оптимизация SQL запросов и структур баз данных;
- Разработка процедур на языке PL/pgSQL;
- Развитие архитектуры DWH, анализ и выбор оптимальных технологий, методологий, инструментов;
- Создание и актуализация базы знаний для пользователей DWH;
- Контроль работы внешних подрядчиков.
Ожидания от кандидата
- Знание принципов построения хранилищ данных;
- Понимание архитектур MPP систем;
- Опыт работы с экосистемой Hadoop/ навыки Data Engineer (HDFS/YARN/Spark/kafka/Nifi/Sqoop/flume и т.д.);
- Знание SQL (DDL, DML), опыт оптимизации запросов;
- Опыт работы с Greenplum, либо отличное знание PostgreSQL;
- Опыт разработки на Python;
- Практический опыт работы с SAS DIS/Informatica PowerCenter;
- Опыт использования систем ведения проектов и документации, сопровождения и мониторинга информационных систем, находящихся в зоне ответственности;
- Навык работы с Git, Jira, Confluence.
Условия работы
- Работаем удаленно, но если хочется в офис, то есть возможность выбрать гибридный вариант работы;
- Гибкий график работы;
- Оформление по ТК РФ с официальной заработной платой;
- Возможность обучаться и сертифицироваться за счет компании: очные мастер-классы, платформы онлайн - образования, электронная библиотека;
- Бонусная программа: ДМС со стоматологией, консультации психолога, страхование жизни и выезжающих за рубеж, скидки в магазинах сети Х5, скидки от компаний-партнеров на Prime-zone.
Дополнительные инструкции
Дмитренко Алина, Telegram @DANAlina95. E-mail, на всякий случай, A.Dmitrenko@x5.ru
Проще всего написать в телеграмм ФИО, указать, что отклик на вакансию, Ваш номер сотового, и я свяжусь с Вами.