В SberData мы создаем платформу данных для всего Сбера. Это более 350 источников данных и 100+ Пб информации, заказ и получение данных за 15 минут и современный технологический стек работы с данными, включая собственные сборки СУБД на базе Hadoop и Greenplum. Наша команда развивает инструменты и внедряет технологию разделенного Compute & Storage в рамках концепции Lakehouse. Наша задача – спроектировать и внедрить надежное, безопасное решение для высоконагруженных расчетов витрин данных на современных технологиях Compute (Spark, Flink) и Storage (S3), работающее на 10000+ серверах.
Задачи:
- разработка и развитие архитектуры корпоративной Lakehouse-платформы на базе OpenShift для технологий Spark и Flink с учетом требований информационной безопасности и надежности.
- участие в проектировании (спецификации) серверного оборудования совместно с инфраструктурным подразделением
- сбор и систематизация требований к нагрузкам, профилирование сценариев использования - batch, streaming
- сбор и анализ технических требований, интеграционных взаимодействий, требований ДКБ.
Требования:
- опыт разработки/проектирования: 7+ лет в Data / Platform / Distributed Systems в крупных информационных системах (1000+ серверов)
- 5+ лет с Kubernetes / OpenShift в production
- spark в k8s или аналогичные.
Будет плюсом опыт работы с:
- Lakehouse
- aналитические OSS СУБД ClickHouse / StarRocks / Trino / Greenplum
- Iceberg или подобные
- S3-хранилищами, HDFS, Hive Metastore.
Мы предлагаем:
- комфортный современный офис: БЦ Даниловский форт, рядом с М.Тульская, Верхние котлы
- возможность выбрать удобный график – офис/гибрид
- ежегодный пересмотр зарплаты, годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.