数据存储方法、装置和存储系统制造方法及图纸

技术编号:10420891 阅读:86 留言:0更新日期:2014-09-12 11:47
本发明专利技术公开了一种数据存储方法、装置和存储系统,属于终端设备领域。所述方法包括:获取当前存储引擎的数据访问情况;根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;获取所述需要存储至下一级存储引擎的数据;将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。该装置包括:第一获取模块、确定模块、第二获取模块和数据存储模块。本发明专利技术通过采用多级存储引擎进行数据的存储,提高了数据的访问效率,从当前存储引擎中获取下一级存储引擎的数据,使得数据调度更加合理,进一步降低了用户的访问时间。

【技术实现步骤摘要】
数据存储方法、装置和存储系统
本专利技术涉及计算机领域,特别涉及一种数据存储方法、装置和存储系统。
技术介绍
在传统的数据库环境下,信息的访问速度是数据库技术性能的衡量要素之一,而信息的访问速度和数据库中的存储形式息息相关,现有数据库中的数据存储一般是分布式存储,而根据这种存储形式的每一次数据访问,都必须通过数据查询语言在数据库中进行查询,以得到对应的数据,对于访问频繁的数据,也是如此,重复的检索使得访问效率较低,也降低了获取数据的速度。现有技术中,通过采用分布式缓存技术提高数据库的可扩展性。该技术可以在一台或多台服务器的随机存储器中缓存数据库中的数据,用户通过从随机存储器中读取数据,与从本地数据库检索、加载数据相比,在速度上有了显著的提高。在实现本专利技术的过程中,专利技术人发现现有技术至少存在以下问题:分布式缓存技术虽然提高了访问的速度,但是需要用户自行对存储在随机存储器中的数据预先进行调度,无法根据业务需要自动选择最优的存储组合,此外,该技术只能进行两层存储,即本地数据库存储和随机存储器存储,在随机存储器中存储的数据具有不稳定性。
技术实现思路
为了解决数据自行调度以及数据稳定的问题,本专利技术实施例提供了一种数据存储方法、装置和存储系统。所述技术方案如下:—方面,提供了一种数据存储方法,所述方法包括:获取当前存储引擎的数据访问情况;根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;获取所述需要存储至下一级存储引擎的数据;将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。另一方面,提供了一种数据存储装置,所述装置包括:第一获取模块,用于获取当前存储引擎的数据访问情况;确定模块,用于根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;第二获取模块,用于获取所述需要存储至下一级存储引擎的数据;数据存储模块,用于将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。又一方面,提供了一种存储系统,所述系统包括接入机设备以及两级以上的存储引擎,其中,所述接入机设备被配置用于执行以下方法:获取当前存储引擎的数据访问情况;根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;获取所述需要存储至下一级存储引擎的数据;将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。本专利技术实施例提供的技术方案带来的有益效果是:本专利技术实施例提供了一种数据存储方法、装置和存储系统,通过获取当前存储引擎的数据访问情况;根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;获取所述需要存储至下一级存储引擎的数据;将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。采用本专利技术提供的技术方案,通过采用多级存储引擎进行数据的存储,提高了数据的访问效率,从当前存储引擎中获取需要存储至下一级存储引擎的数据,使得数据调度更加合理,进一步降低了用户的访问时间。【附图说明】为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1是本专利技术实施例中提供的一种数据存储方法流程图;图2a是本专利技术实施例中提供的一种数据存储方法流程图;图2b是本专利技术实施例中提供的一种数据存储方法示意图;图3是本专利技术实施例中提供的一种数据存储装置结构示意图。【具体实施方式】为使本专利技术的目的、技术方案和优点更加清楚,下面将结合附图对本专利技术实施方式作进一步地详细描述。为了便于对本专利技术技术方案的理解,在此对本专利技术实施例涉及到的概念进行解释:存储引擎,存储引擎是一种适用于服务器、数据库和表格的存储机制,一个存储引擎可以是服务器集群中的一个单独服务器,还可以是服务器上的功能模块,存储引擎的存储介质可以根据需要进行选择,且存储引擎可以拆卸,方便用户的使用。CCNS (cloud common nosql service,反数据库查询语言服务)接入机,提供一个存储介质无关的反数据库查询服务平台,其中,nosql为非关系型数据库。主存储引擎和从存储引擎,在本专利技术实施例中,采用多级存储引擎存储数据库中的数据,同一个数据库中可具有两级或两级以上的存储引擎,根据其在数据库中的地位可以分为主存储引擎和从存储引擎。其中,主存储引擎用于存储数据库中的访问量高的数据。优选地,主存储引擎采用CMEM (Cloud Memcache,基于云的对象缓存系统),CMEM具有高性能内存级持久化分布式的存储服务,适用于数据量小、访问量高、key-value (键-值)存储的场景。在本专利技术实施例中,对于主存储引擎来说,可以具有多个从存储引擎,而对于从存储引擎来说,也可以有其相对应的从存储引擎,也即是,存储数据库中多个具有上下级关系的存储引擎。图1是本专利技术实施例中提供的一种数据存储方法流程图。参见图1,该方法包括:101:获取当前存储引擎的数据访问情况;在本专利技术实施例中,由于采用多级存储引擎存储数据,为了最大程度上避免对用户的使用造成影响,根据各级存储引擎中的数据访问情况进行数据的调度,访问时长较短的数据存储在上级的存储引擎中,访问时长较长的数据存储在下级的存储引擎中。其中,当前存储引擎的数据访问情况至少包括存储引擎存储的被访问次数和访问时间,该访问包括但不限于对数据的查询、更新、修改、插入和调用等操作。在对各级存储引擎的数据调度过程中,可以同时根据各个存储引擎的数据访问情况,对各个存储引擎的数据进行调度,还可以根据各个存储引擎的数据访问情况,逐个对各个存储引擎的数据进行调度。102:根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;具体地,根据当前存储引擎中的数据访问情况,获取数据最后一次被访问的时间到当前时间的间隔时长,当数据的间隔时长大于或等于预设存储时长,说明该数据的访问频率较低,将该数据作为需要存储至下一级存储引擎的数据,当数据的间隔时长小于预设存储时长,说明该数据的访问频率较高,则该数据不需要被存储至下一级存储引擎的数据。103:获取所述需要存储至下一级存储引擎的数据;在确定当前存储引擎中包括需要存储至下一级存储引擎的数据后,以复制的方式从当前存储引擎中获取该数据。104:将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。在获取到需要存储至下一级存储引擎的数据后,将该数据写入下一级存储引擎,并从当前存储引擎中删除该已经存储至下一级存储引擎的数据。上述过程是数据调度过程中从当前存储引擎中获取下一级存储引擎中的数据的过程。对于各级存储引擎而言,在数据存储过程中,下一级存储引擎总是从上一级存储引擎中获取数据,这样各级存储引擎中存储的数据就形成了一个具有时间梯度的数据,这些数据的存储情况反映了被访问时间的情况。对于访问频率高,访问间隔时长短的数据总是存储在级别较高上级的存储引擎中,以方便用户的访问,而对于访问本文档来自技高网...

【技术保护点】
一种数据存储方法,其特征在于,存储系统中包括两级以上的存储引擎,所述方法包括:获取当前存储引擎的数据访问情况;根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据;获取所述需要存储至下一级存储引擎的数据;将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。

【技术特征摘要】
1.一种数据存储方法,其特征在于,存储系统中包括两级以上的存储引擎,所述方法包括: 获取当前存储引擎的数据访问情况; 根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据; 获取所述需要存储至下一级存储引擎的数据; 将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据。2.根据权利要求1所述的方法,其特征在于,根据所述当前存储引擎的数据访问情况,确定所述当前存储引擎中包括需要存储至下一级存储引擎的数据,包括: 根据所述当前存储引擎的数据访问情况,判断所述当前存储引擎中是否包括指定类型数据,所述指定类型数据为存储时长超过预设存储时长且访问次数低于预设阈值的数据;如果所述当前存储引擎中包括指定类型数据,则将所述指定类型数据确定为需要存储至下一级存储引擎的数据。3.根据权利要求1所述的方法,其特征在于,将获取到的数据存储至所述下一级存储引擎,并删除所述当前存储引擎中的相应数据,包括: 将所述获取到的数据存储至所述下一级存储引擎; 当所述需要存储至下一级存储引擎的数据未处于被访问状态时,删除所述当前存储引擎中的相应数据。4.根据权利要求1所述的方法,其特征在于,所述方法还包括: 接收用户的业务请求,所述业务请求携带访问对象和操作方式; 根据所述操作方式,按照所述操作方式对应的查找方法,在各级存储引擎中查找所述访问对象,对所述访问对象对应的数据进行相应地操作。5.根据权利要求4所述的方法,其特征在于,根据所述操作方式,按照所述操作方式对应的查找方法,在各级存储引擎中查找所述访问对象,对所述访问对象对应的数据进行相应地操作,包括: 如果所述操作方式是删除操作,根据所述访问对象,从下向上逐级在各级存储引擎中查找所述访问对象,删除所述访问对象对应的数据; 如果所述操作方式不是删除操作,根据所述访问对象,从上向下逐级在所述各级存储引擎中查找所述访问对象,对所述访问对象对应的数据进行相应地操作。6.根据权利要求5所述的方法,其特征在于,如果所述操作方式是删除操作,根据所述访问对象,从下向上逐级在各级存储引擎中查找所述访问对象,删除所述访问对象,包括: 如果所述操作方式是删除操作,按照所述各级存储引擎的级别,从下向上逐级在各级存储引擎中查找所述访问对象,当被查找的存储引擎上存在所述访问对象对应的数据时,删除所述访问对象对应的数据。7.根据权利要求5所述的方法,其特征在于,如果所述操作方式不是删除操作,根据所述访问对象,从上向下逐级在所述各级存储引擎中查找所述访问对象,对所述访问对象对应的数据进行相应地操作,包括: 判断所述两级以上的存储引擎中的主存储引擎中是否存在所述访问对象对应的数据; 如果所述主存储引擎中存在所述访问对象对应的数据,从主存储引擎中获取所述对应的数据; 如果主存储引擎中不存在所述访问对象对应的数据,按照所述各级存储引擎的级别,从上向下逐级在所述各级存储引擎中查找所述访问对象对应的数据,直到查找到和所述访问对象对应的数据,将所述查找到的数据移动到所述主存储引擎中; 在所述主存储引擎中,对所述访问对象对应的数据进行相应地操作。8.一种数据存储装置,其特征在于,存储系统中包括两级以上的存储引擎,所述装置包括: 第一获取模...

【专利技术属性】
技术研发人员:张礼方肖立鹏曾凯源钟超宇庄泗华
申请(专利权)人:深圳市腾讯计算机系统有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1