Senior/Middle+ Big Data Engineer (Рекламная платформа)

Обязанности

Проектировать единую модель данных рекламной платформы вместе с продуктом и аналитиками, с учетом роста и развития рекламы в Lamoda;

Строить внешнюю отчетность для рекламодателей: проектировать витрины данных в ClickHouse и расчет метрик эффективности рекламных кампаний в NRT и batch режимах;

Развивать инфраструктуру данных для ML задач и продуктовой аналитики рекламной платформы;

Переводить данные и регулярные расчеты рекламной платформы на Lakehouse архитектуру;

Выстраивать взаимодействие с продуктовыми командами рекламной платформы: согласовывать источники, форматы и контракты данных;

Обеспечивать качество данных в разных системах, проектировать Data Quality;

Оптимизировать действующие пайплайны на Spark - мониторить нагрузку на кластер и эффективность затрачиваемых ресурсов;

Анализировать и внедрять новые инструменты инжиниринга данных.

Требования

Уверенное владение Python/Scala/Java;

Глубокое знание Spark и Spark Streaming/Flink;

Понимание внутреннего устройства ClickHouse и умение оптимизировать запросы;

Опыт работы с Data Lake/Lakehouse стеком;

Опыт построения решений для near realtime аналитики;

Хорошее понимание SQL;

Понимание инфраструктуры Apache Kafka.