27.09.2022 00:37
Senior Data Engineer( Маркетплейс-технологии )
27.09.2022 00:37
компания "маркетплейс-технологии" сердце отдела анализа данных - решения и продукты, созданные на основе данных. над взращиваем этой культуры работают наши дата инженеры. они лучше всех в компании понимают данные - откуда они текут и куда, как их нужно обработать и как помочь всей компании извлечь из них максимальную пользу. в качестве стека у нас есть: kubernetes, kafka, clickhouse, kafka connect x debezium, postgresql, kafka streams, mongodb. этот стек обрабатывает миллиарды событий в день, которые происходят с нашими пользователями. активно смотрим в сторону deltalake, ksqldb и таких концептов как data mesh. у нас запущено несколько больших инициатив, которыми нужно будет заниматься: · хранилище которое поддерживает как паттерны потребления данных аналитиков, так и дата саентистов · etl процессы и подготовка данных для аналитиков в сложных кейсах · data governance - качество данных, их доступность и понятность. построить, проверить и осмыслить процессы работы с данными во всех командах разработки задачи: работа над хранилищем данных для аналитики потоковая обработка данных поддержка разных типов хранилищ - транзакционных, аналитических, горячих, холодных предоставление данных пользователя сервисам персонализации создание идеальных условий для проведения неограниченного числа экспериментов в продукте мониторинг, работоспособность и масштабируемость продакшена скорее всего, у хорошего кандидата найдутся следующие навыки: опыт работы с kafka / ksqldb / apache pulsar или другими распределенными платформами обработки потоков событий опыт работы с olap базами, у нас вот clickhouse понимание того, как можно структурировать хранилище данных - kappa / lambda / dwh / data vault / data anchor / hnhm опыт работы с холодным хранилищем - spark / deltalake / presto условия: возможность брать много ответственности - наши инженеры самостоятельно драйвят большие и сложные истории внутри продукта сильную и энергичную команду, нацеленную на быстрый рост на конкурентном рынке современные и интересные технологии, возможность тестировать новые фреймворки и паттерны если тебе по душе, то удаленная работа, ну а если нет, то есть доступные комфортные офисы в москва-сити или иннополисе дмс со стоматологией, частичная компенсация спортзала и полная обучений и конференций
Адрес
Санкт-Петербург
Похожие вакансии
По договоренности
27.09.2022 00:37
компания "маркетплейс-технологии" сердце отдела анализа данных - решения и продукты, созданные на основе данных. над взращиваем этой культуры работают наши ...
Партнерские Вакансии
Санкт-Петербург