Big Data engineer

компания "mail.ru group" vk видео — самая масштабная видеоплатформа в рунете по аудитории и форматам контента. она объединяет видеоплатформы вконтакте, одноклассников и других продуктов vk, ею пользуются более 100 млн человек в месяц.vk клипы — это бесконечная лента коротких вертикальных видео. здесь зрители могут найти увлекательный контент на самые разные темы, а авторы — заявить о себе. качественные клипы можно создавать прямо вконтакте с помощью ar-эффектов и социальных механик, без специальных навыков и дорогой техники.вместе с нами вы будете разрабатывать рекомендательные системы для двух крупнейших российских видеосервисов. у нас классно потому что:мы каждый день сталкиваемся со сложными задачами и постоянно ищем оптимальные решения;разрабатываем собственные технологии с учётом природы данных, с которыми мы работаем;выжимаем максимальную производительность из кода и думаем не только об отдельных решениях, но и о свойствах системы в целом;если вы хотели поработать в сердце высоконагруженной системы — мы с вами сработаемся. особенности: big data: 4 hdfs кластера общим объёмом ~150pb; high load: обслуживаем десятки тысяч серверов; high available: все сервера расположены в 5 разных дата центрах; не enterprise: разрабатываем решения, которые сами же и используем; stack: hadoop-3.1.x, kafka-2.4.x, spark-2.3.x, grafana 7.x, clickhouse, airflow; lang: java, scala, python, bash. задачи: развивать платформу хранения и обработки больших данных; предлагать, отстаивать и реализовывать архитектурные решения; оптимизировать и настраивать различные компоненты: hdfs, kafka, clickhouse, spark, zeppelin, etc; разрабатывать инструменты для хранения и обработки данных на java/scala/kotlin. мы ожидаем: хорошее знание java/scala; опыт работы и понимание внутреннего устройства: hadoop, hdfs, kafka, spark, zeppelin, airflow, zookeeper, clickhouse. условия: сложные и интересные задачи: высоконагруженные быстрорастущие сервисы, которые задают уровень для конкурентов качеством и технологиями; оборудование: мощное железо, десятки петабайт данных, gpu-кластера и облачный инструментарий; команда: с нами работают профессионалы экстра класса, каждый из которых может поделиться своей экспертизой; профессиональное развитие: прямо в офисе мы организуем митапы, конференции, семинары и тренинги, куда открыт доступ каждому сотруднику, а также регулярно посещаем лучшие мировые конференции; новый опыт: лучшие сотрудники преподают в наших образовательных проектах, выступают на российских и международных конференциях; социальный пакет (спорт, дмс, английский язык); комфортный офис с парковкой, душем и зонами отдыха в паре минут от м. «аэропорт»; возможность работать в гибридном режиме (совмещение удаленки с работой в офисе совместно с командой); дополнительное обучение за счет компании, участие в профессиональных конференциях и форумах по всему миру; корпоративные мероприятия и team building events в россии и за рубежом.