HStreamDB是一款专为流式数据设计的云原生分布式数据库,可针对大规模实时数据流的接入、存储、处理、分发等环节进行全生命周期管理。它使用标准SQL(及其流式拓展)作为主要接口语言,以实时性作为主要特征,旨在简化数据流的运维管理以及实时应用的开发,不仅支持高效存储和管理大规模数据流,还能够在动态变化的数据流上进行复杂的实时分析。
在此次发布的0.5版本中,我们除了对原有的功能(如:对数据流的管理、数据的写入与消费)进行了升级,还新增加了很多对使用HStreamDB进行开发具有重大意义的功能特性,例如JavaSDK、MySQL和ClickhouseConnector,以及对物化视图的支持等。
◆增加对物化视图的支持
提供物化视图功能,支持在持续更新的数据流上进行复杂的查询和分析操作。同时,HStreamDB内部的增量计算引擎会根据数据流的变化实时更新物化视图,用户可通过SQL语句查询物化视图获得实时的数据洞察。
◆增加JavaSDK,方便基于HStreamDB的开发
这是我们主要推荐的使用HStreamDB的方式,用户可以查阅文档了解如何安装以及使用Java进行开发。
◆提供SinkConnector
我们提供了两种SinkConnector,包括MySQL和Clickhouse。用户可以通过SQL语句轻松指定哪些数据需要导入到特定的数据库中。
◆新增Dashboard
用户可以通过Dashboard来完成对HStreamDB内部资源的管理。
◆重构Server,基于gRPC设计实现了Server的接口
基于gRPC的重新设计了HStreamServer,使Server的实现清晰,增强了Server的可扩展能力。
◆改进了基于SQL的流数据处理
新增了大量SQL函数,完善和优化了聚合函数。增强了对流处理任务的管理功能。
◆优化了低层存储逻辑
在之后的版本中,我们将朝着以下目标继续努力:
◆提升HStreamServer的扩展能力
实现HStreamServer集群支持
支持多个consumer进行共享订阅和并行消费
优化控制平面元数据存储
◆增强运维和监控能力
支持使用k8s进行部署
实现统计监控框架
丰富Dashboard功能
◆增强流处理能力
优化流引擎的实现,提升处理效率
增加SQL优化器,优化执行计划生成
实现流任务调度框架,支持并行处理
◆提升易用性
改进JavaSDK
完善用户文档,提供更多教程和示例
提供更多应用案例
◆丰富HStreamDB生态,提升集成能力
重构Connector框架,方便开发者自行实现所需的Connector
实现分级存存储
实现更多常用系统的Connector支持
我们也计划在下个阶段完成与EMQX的集成,这将不仅能验证HStreamDB功能完善程度,更意味着一个为物联网应用开发量身打造的产品组合的诞生。
HStreamDB作为流数据库这一基础软件品类的开创者,正向着能够被投入生产环境使用这一阶段性目标稳步前进。我们将继续推进HStreamDB的开发,完善功能,稳定性能,保证可靠。相信在不远的将来,用户便能使用HStreamDB更加快速地开发实时应用,更加简单地获取即时数据洞察。同时,我们也在此感谢广大社区成员的每一次使用和每一次贡献。敬请期待一个更加完善成熟的HStreamDB。
来源:消费日报网