Реклама

Как использовать Neo4j в data engineering проекте: практический пример с Kafka, ClickHouse и Airflow

#Kafka #ClickHouse #Airflow #Когда #Читать
Как использовать Neo4j в data engineering проекте: практический пример с Kafka, ClickHouse и Airflow

Когда говорят о Neo4j, чаще всего вспоминают social networks, fraud detection, recommendation systems или knowledge graphs. Но графовая база может быть полезна и внутри обычного data engineering проекта , где уже есть Kafka, аналитическая база, dbt, Airflow и BI. Мне было интересно проверить именно этот сценарий. Читать далее

Цель

Когда говорят о Neo4j, чаще всего вспоминают social networks, fraud detection, recommendation systems или knowledge graphs. Но графовая база может быть полезна и внутри обычного data engineering проекта, где уже есть Kafka, аналитическая база типа ClickHouse, DBT, Airflow и BI. Мне было интересно проверить именно этот сценарий:

Как встроить Neo4j в современный data stack так, чтобы он не дублировал data warehouse, а решал те задачи, для которых графовая модель действительно удобнее SQL?

В качестве данных я использовал AIS — поток сообщений о движении судов, https://www.barentswatch.no/en/. Но основная тема этой статьи не AIS. Основная тема — место Neo4j в data engineering архитектуре.