1.4 KiB
1.4 KiB
Hudi 简介
Apache Hudi将核心仓库和数据库功能直接带到数据湖中。Hudi提供了表、事务、高效upserts/删除、高级索引、流式摄取 服务、数据群集/压缩优化以及并发,同时保持数据以开源文件格式保留。
Hudi是Hadoop Upserts and Incrementals
缩写,用于管理分布式文件系统DFS上大型分析数据集存储。Hudi是一种针对分析
型业务的、扫描优化的数据存储抽象,它能够使DFS数据集在分钟级的时延内支持变更,也支持下游系统对这个数据集的增量
处理。
Hudi特性和功能
- 支持快速Upsert以及可插拔的索引。
- 支持原子方式操作,且支持回滚。
- 写入和插件操作之间的快照隔离。
- savepoint用户数据恢复的保存点。
- 使用统计信息管理文件大小和布局。
- 行和列的异步压缩。
- 具有时间线来追踪元数据血统。
- 通过聚类优化数据集。
Hudi 基础架构
- 支持通过Flink、Spark、Hive等工具,将数据写入到数据库存储。
- 支持 HDFS、S3、Azure、云等等作为数据湖的数据存储。
- 支持不同查询引擎,如:Spark、Flink、Presto、Hive、Impala、Aliyun DLA。
- 支持 spark、flink、map-reduce 等计算引擎对 hudi 的数据进行读写操作。