21.07.2022 23:45

Data Engineer (Middle)

По договоренности
21.07.2022 23:45
компания "билайн" что и как мы делаем? мы создаем продвинутое аналитическое хранилище (data lake) по принципам data mesh. все данные мы описываем в каталоге, чтобы их можно было легко находить и переиспользовать. для каждого куска данных мы определяем владельца, который относится к ним, как к продукту. для этого в каждом подразделении должны быть люди с навыками data engineer, погруженные в предметную область. под эту задачу мы сейчас активно набираем людей. наши преимущества: мы развиваем свое сообщество de. сейчас в нем состоит 300 человек с разным уровнем навыков от junior до senior. инженеры помогают друг другу бороться с трудностями и развиваться, делятся друг с другом кодом, всякими лайфхаками; мы проводим митапы по инфраструктурным и софтовым темам. коллеги делятся опытом, помогают разобраться в востребованных темах; мы даем все инструменты для обучения и развития (в том числе, платные). конференции, подписки, книги, курсы – все что помогает расти профессионально; мы даем возможность выбрать удобный формат работы: удаленный или гибридный. типовые задачи de: анализ требований к витринам данных (взаимодействие с владельцем продукта, bi-разработчиками, data scientist-ами); поиск и исследование источников данных для последующей интеграции; оценка пригодности, качества исходных данных; разработка etl процессов на spark; оркестрация etl процессов в airflow; проектирование баз данных; создание конвейеров данных nifi. мы понимаем, что каждый de индивидуален. поэтому даем описание как бы выглядел идеальный кандидат. de в билайн: любит работать в команде и умеет это делать; знает sql на высоком уровне (в т. ч. ddl, табличные выражения, оконные функции); работал с hive, postgresql; умеет разрабатывать etl процессы spark на scala (потоковая обработка как преимущество); пользовался airflow или другими оркестраторами – oozie, luigi, ну или cron; может что-то написать на python – в объеме чтобы пользоваться airflow или еще круче; имеет опыт потоковой разработки конвейеров данных в nifi или flink; интересуется flink, пробовал применять его в проектах; умеет проектировать базы данных (знает data vault 2.0 например); понимает принципы работы реляционных субд и hdfs; имеет представление о колоночных и nosql субд; понимает подходы к работе с качеством данных; применяет системный подход к работе, думает о конечной бизнес-задаче, мыслит логически, уделяет внимание деталям. наши проекты у нас все организовано в виде продуктов, имеющих бесконечный срок жизни. продуктов очень много – несколько сотен. если делить их по группам – получится так: клиентский опыт: обобщаем все клиентские взаимодействия с компанией в одну историю, под одним универсальным идентификатором; прогнозируем и корректируем общую выручку от клиента на всем периоде жизни с компанией; боремся с фродом на стороне клиентских устройств сотовой связи; предсказываем отток и next-best-action для клиентов. управление оборудованием и качеством услуг связи: собираем и анализируем метрики качества предоставления связи; выполняем интеллектуальное планирование постройки базовых станций; осуществляем предиктивное обслуживание оборудования. для продуктовых команд: создаем для себя фреймворки и утилиты; развиваем сервис мониторинга как единую точку сбора и просмотра метрик. стек и технологии в своей работе de используют следующий стек технологий: экосистема hadoop – hdfs, yarn, hive, hbase; etl-процессы – spark (scala); потоковая обработка – nifi, flink; брокер сообщений – kafka; оркестрация etl процессов – airflow; субд – postgresql, greenplum, aerospike, oracle, sql server; ci/cd – gitlab. присоединяйся к лучшей команде в качестве data engineer! в билайн мы развиваем и поддерживаем здоровую и безопасную рабочую среду. каждый сотрудник соблюдает кодекс поведения, внутренние правила компании и придерживается принципов деловой этики. мы поступаем честно и этично как по отношению к друг другу, так и к нашим внешним партнерам.

Адрес

Москва

Похожие вакансии

По договоренности
30.12.2022 10:05
Обязанности: Развитие хранилища данных ядром которого является Greenplum; Обеспечение непрерывной работы кластера greenplum, мониторинг состояния кластера и нагрузки; Написание DAG ...
Лукойл
Москва
100 000 ₽
30.12.2022 02:57
компания "dns федеральный офис" мы - аккредитованная минцифры it-компания dns технологии, находимся в поиске инженера данных в направление «гарантия и ...
Партнерские Вакансии
Владивосток
По договоренности
18.12.2022 07:58
компания "лига цифровой экономики" проект направлен на развитие корпоративного хранилища данных. это масштабный и амбициозный проект, который дает возможность получить ...
Партнерские Вакансии
Москва
80 000 ₽
13.12.2022 08:26
компания "it pro" задачи: участие в крупных проектах по построению хранилищ данных на облачных azure, yandex cloud разработка и поддержка ...
Партнерские Вакансии
Брянск
80 000 ₽
06.12.2022 15:34
Задачи: Участие в крупных проектах по построению хранилищ данных на облачных Azure, Yandex Cloud Разработка и поддержка ETL/ELT конвейеров для ...
IT Pro
Брянск
100 000 ₽
06.12.2022 04:36
Мы - аккредитованная Минцифры IT-компания DNS Технологии, находимся в поиске инженера данных в направление «Гарантия и сервис»! На сегодняшний день ...
DNS Головной офис
Владивосток
По договоренности
08.11.2022 08:56
компания "лига цифровой экономики" крупный проект dwh, в одном из топ банков россии. твои задачи: заниматься проектированием и разработкой витрин ...
Партнерские Вакансии
Москва
100 000 ₽
12.09.2022 01:39
компания "строительный двор" ищем специалиста в области data engineering для решения задач в области diy ритейла, е-commerce для крупной компании ...
Партнерские Вакансии
Москва
По договоренности
21.07.2022 23:45
компания "билайн" что и как мы делаем? мы создаем продвинутое аналитическое хранилище (data lake) по принципам data mesh. все данные ...
Партнерские Вакансии
Москва
По договоренности
13.07.2022 03:59
компания "technodom operator (технодом оператор)" основные обязанности: участие в проектировании процесса обработки и хранения данных в облачной инфраструктуре данных; реализация ...
Партнерские Вакансии
Казахстан Алматы
По договоренности
05.06.2022 02:48
компания "bestdoctor" bestdoctor — экосистема медицинских сервисов, созданная экспертами для удобного управления здоровьем компаний и людей. если коротко, мы решили ...
Партнерские Вакансии
Санкт-Петербург
По договоренности
05.06.2022 02:48
компания "bestdoctor" bestdoctor — экосистема медицинских сервисов, созданная экспертами для удобного управления здоровьем компаний и людей. если коротко, мы решили ...
Партнерские Вакансии
Москва
По договоренности
26.04.2022 02:37
компания "лига цифровой экономики" команда реализует собственные аналитические продукты для защиты инфраструктуры банка. в основе используется стек технологий bigdata и ...
Партнерские Вакансии
Москва

Новости

ТОП компаний

ТОП вакансий из категории

Смотрите также вакансии