Data Engineer
Velpharm Group – это ведущий игрок в фармацевтической индустрии, специализирующийся на разработке, производстве и дистрибуции лекарственных средств.
Мы стремимся к инновациям и улучшению качества жизни людей по всему миру.
вакансия: Data Engineer
Чем необходимо будет заниматься:
– Проектирование и оптимизация хранилищ данных: создание и настройка схем баз данных для PostgreSQL, MS SQL и ClickHouse, включая партиционирование, кластеризацию и индексацию для повышения производительности.
– Разработка и поддержка ETL-процессов: создание пайплайнов для извлечения, трансформации и загрузки данных с использованием AirFlow (настройка DAG, зависимостей, ретраев) и Kafka для потоковой обработки. Проектировать и реализовывать ETL-слои для информационных потоков.
– Интеграция данных: подключение к различным источникам (API, FTP, S3), обработка и загрузка данных в целевые хранилища.
– Оптимизация запросов: написание и оптимизация SQL-запросов с использованием оконных функций, CTE, JOIN и других конструкций, анализ планов выполнения (EXPLAIN).
– Мониторинг и обеспечение надёжности: настройка алертов, логирование, тестирование пайплайнов, обеспечение отказоустойчивости и масштабируемости систем.
– Работа с инструментами: использование Python для скриптов, dbt для декларативных SQL-трансформаций, настройка интеграций с внешними системами.
– Управление данными и их качеством: Разработка метрик и автоматизированных проверок качества данных (например, выявление дубликатов, аномалий, несогласованных форматов). Внедрение процедур очистки, нормализации и преобразования данных на этапах ETL. Участие в создании стандартов хранения данных (Data Governance), включая классификацию, метаданные, политики доступа и сроки хранения.
– Архитектурное проектирование: Проектирование и поддержка архитектуры хранилищ данных (Data Warehouse / Data Lake) на базе PostgreSQL, ClickHouse. Оптимизация структур данных в ClickHouse (выбор движков таблиц, партиционирование, TTL, репликация). Выбор и реализация процедур инкрементальной загрузки данных из источников. Построение звездных/снежинковых схем для аналитических отчетов и дашбордов. Интеграция с ClickHouse для обеспечения гибкости анализа (например, через внешние таблицы или промежуточные слои).
– Поддержка аналитических процессов: Создание витрин данных (Data Marts) для аналитиков, актуариев и менеджеров. Оптимизация SQL-запросов в ClickHouse для работы с высоконагруженными сценариями (например, расчет резервов убытков, моделирование рисков). Автоматизация регулярной отчетности в части подготовки данных (ежедневные/ежемесячные дашборды для руководства).
Требования к кандидату
– Опыт работы с СУБД: глубокие знания PostgreSQL и MS SQL, понимание особенностей ClickHouse (например, колоночной архитектуры, оптимизации для аналитических запросов).
– Навыки работы с инструментами: практический опыт использования AirFlow для оркестрации пайплайнов, Kafka для потоковой передачи данных.
– Программирование: владение Python (обязателен), желательно знание Scala или Java для работы с распределёнными системами.
– Знание ETL-процессов: понимание принципов извлечения, трансформации и загрузки данных, опыт построения сложных пайплайнов
– Опыт с распределёнными системами: понимание принципов работы Hadoop, Spark (желательно).
– Soft skills: системное мышление, коммуникативные навыки, умение работать в команде, аналитическое мышление.
Дополнительные преимущества
– Опыт работы с облачными платформами (AWS, GCP, Azure).
– Знание принципов Data Governance и управления качеством данных.
– Опыт работы с CI/CD и контейнеризацией (Docker, Kubernetes).
– Понимание бизнес-процессов и умение переводить бизнес-требования в технические решения.
Условия работы
– Формат: полный рабочий день.
– Уровень: Junior/Middle/Senior
–
оформление по ТК РФ с первого дня; офис- Москва-Сити, башня Федерация;
– график работы: 5/2 (гибрид, удаленный формат обсуждается);
– корпоративное обучение, возможность профессионального роста;
– частичная компенсация питания.
Присоединяйтесь к Velpharm Group – будущее фармацевтики начинается здесь!