数据加载装置和数据加载方法制造方法及图纸

技术编号:8347950 阅读:163 留言:0更新日期:2013-02-21 01:29
本发明专利技术公开了一种数据加载方法,包括:将要加载数据按照设置的数据划分策略划分成多个数据部分,并为所述多个数据部分分配不同的数据库节点;基于为所述多个数据部分分配的数据库节点将所述多个数据部分分别存储到多个本地缓存部分中,其中,所述多个本地缓存部分相互独立且每个本地缓存部分对应一个数据库节点;以及检测到所述多个本地缓存部分中的一个本地缓存部分存储的数据量达到或超过第一数据量阈值时,将该本地缓存部分中的数据加载到与该本地缓存对应的数据库节点中。本发明专利技术还公开了一种数据加载装置。采用本发明专利技术,可提高数据库集群系统中数据加载到数据库节点的性能。

【技术实现步骤摘要】

本专利技术涉及计算机数据处理
,更具体地,涉及一种数据加载装置、数据加载方法和数据库集群系统。
技术介绍
在数据库集群系统中,为了提高数据访问的性能,往往采用一定的划分策略将数据表分布到多个数据库节点上。因此在数据写入的时候,必须按照这些数据的划分策略,对数据进行划分并写入到相应的数据库中。常见的数据划分策略可以包括哈希Hash划分、范围Range划分、列表List划分和轮询Round划分。三种数据划分对查询处理和系统实现的比较如表I所示。表I三种数据划分方式的比较权利要求1.一种数据加载方法,包括将要加载数据按照设置的数据划分策略划分成多个数据部分,并为所述多个数据部分分配不同的数据库节点;基于为所述多个数据部分分配的数据库节点将所述多个数据部分分别存储到多个本地缓存部分中,其中,所述多个本地缓存部分相互独立且每个本地缓存部分对应一个数据库节点;检测到所述多个本地缓存部分中的一个本地缓存部分存储的数据量达到或超过第一数据量阈值时,将该本地缓存部分中的数据加载到与该本地缓存对应的数据库节点中。2.根据权利要求I所述的数据加载方法,其特征在于,所述数据划分策略包括哈希 Hash本文档来自技高网...

【技术保护点】
一种数据加载方法,包括:将要加载数据按照设置的数据划分策略划分成多个数据部分,并为所述多个数据部分分配不同的数据库节点;基于为所述多个数据部分分配的数据库节点将所述多个数据部分分别存储到多个本地缓存部分中,其中,所述多个本地缓存部分相互独立且每个本地缓存部分对应一个数据库节点;检测到所述多个本地缓存部分中的一个本地缓存部分存储的数据量达到或超过第一数据量阈值时,将该本地缓存部分中的数据加载到与该本地缓存对应的数据库节点中。

【技术特征摘要】

【专利技术属性】
技术研发人员:宋怀明王颖苗艳超刘新春邵宗有
申请(专利权)人:曙光信息产业北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1