一种数据处理的方法及装置制造方法及图纸

技术编号:26170927 阅读:22 留言:0更新日期:2020-10-31 13:40
本申请涉及一种数据处理的方法及装置。所述数据处理的方法应用于数据缓存系统,所述数据缓存系统包括热度缓存区和粒度缓存区;包括:S1、接收用户的第i查询请求,所述第i查询请求包含待查询数据的身份标识号码ID,i为正整数;S2、基于所述待查询数据的ID在数据库中获取目标数据;S3、将所述目标数据基于预设存储规则存储于所述粒度缓存区中,从粒度缓存区提取所述目标数据并基于预设热度规则将所述目标数据存储于所述热度缓存区中,从热度缓存区提取所述目标数据并返回至用户,其中所述存储规则根据数据粒度确定,所述热度规则根据数据的访问频率及时效性确定。

【技术实现步骤摘要】
一种数据处理的方法及装置
本申请涉及计算机
,特别涉及一种数据处理的方法及装置、计算设备及计算机可读存储介质。
技术介绍
电商平台中的部分数据具体较高的使用频率,比如商品信息、规则配置信息等,通常会将这些热点数据做缓存处理,以防止因硬件配置受限、系统异常等原因造成数据不可访问或访问耗时较长的问题。到目前为止,缓存技术已普遍的应用于各类软件系统中,对提高系统的稳定性做出了卓越贡献。但是针对一个高频访问的热数据中心的整体缓存机制还缺乏可靠案列。这有不同的业务场景对缓存的要求不同所致,也有着我们较少的从一个系统模块整体的角度来考虑缓存机制设计的原因。现有技术中使用的大多数缓存设计都有着较为明显的局限性。局限一:局部数据缓存。在局部领域表现良好,但是没有从整体角度看待缓存的成本和效率及价值的关系。比如往往在一个系统内部使用缓存,如果获取缓存失败,可以自己捕获系统异常,做出相应处理,而如果是一个功能模块级的缓存,我们往往需要考虑业务方如果不能及时获取数据造成的后果,如果是强业务依赖的数据获取失败了可能会导致较严重的连锁反应。本文档来自技高网...

【技术保护点】
1.一种数据处理的方法,其特征在于,应用于数据缓存系统,所述数据缓存系统包括热度缓存区和粒度缓存区;/n所述数据处理的方法包括:/nS1、接收用户的第i查询请求,所述第i查询请求包含待查询数据的身份标识号码ID,i为正整数;/nS2、基于所述待查询数据的ID在数据库中获取目标数据;/nS3、将所述目标数据基于预设存储规则存储于所述粒度缓存区中,从粒度缓存区提取所述目标数据并基于预设热度规则将所述目标数据存储于所述热度缓存区中,从热度缓存区提取所述目标数据并返回至用户,其中所述存储规则根据数据粒度确定,所述热度规则根据数据的访问频率及时效性确定。/n

【技术特征摘要】
1.一种数据处理的方法,其特征在于,应用于数据缓存系统,所述数据缓存系统包括热度缓存区和粒度缓存区;
所述数据处理的方法包括:
S1、接收用户的第i查询请求,所述第i查询请求包含待查询数据的身份标识号码ID,i为正整数;
S2、基于所述待查询数据的ID在数据库中获取目标数据;
S3、将所述目标数据基于预设存储规则存储于所述粒度缓存区中,从粒度缓存区提取所述目标数据并基于预设热度规则将所述目标数据存储于所述热度缓存区中,从热度缓存区提取所述目标数据并返回至用户,其中所述存储规则根据数据粒度确定,所述热度规则根据数据的访问频率及时效性确定。


2.根据权利要求1所述的方法,其特征在于,还包括:
接收用户的第j查询请求,所述第j查询请求包含待查询数据的ID,其中j>i;
基于所述待查询数据的ID在所述热度缓存区中进行查询具有所述ID的目标数据;
在所述热度缓存区查询到所述目标数据的情况下,将所述目标数据返回至用户,并结束当前查询流程;
在所述热度缓存区未查询到所述目标数据的情况下,则基于所述待查询数据的ID在所述粒度缓存区中进行查询具有所述ID的目标数据;
在所述粒度缓存区查询到所述目标数据的情况下,则基于预设热度规则将所述目标数据存储于所述热度缓存区中,从热度缓存区提取所述目标数据并返回至用户;
在所述粒度缓存区未查询到所述目标数据的情况下,则继续执行步骤S2至S3。


3.根据权利要求1所述的方法,其特征在于,在将所述目标数据基于预设存储规则存储于所述粒度缓存区之前,还包括:
为粒度缓存区配置连续的n个层级缓存区,n为大于等于2的正整数;
在所述目标数据为包括至少两种类型的业务数据的组合数据的情况下,将所述目标数据基于预设存储规则存储于所述粒度缓存区中,包括:
以所述目标数据为第一粒度数据并存储于第一层级缓存区;
将具有相同类型的业务数据的两组第k粒度数据基于相同类型的业务数据进行聚合得到第k+1粒度数据,将所述第k+1粒度数据存储于第k层级缓存区,其中n≥k≥1,且k为整数;
将k自增1,判断k是否小于等于n;
如果k≤n,则继续执行将具有相同类型的业务数据的两组第k粒度数据基于相同类型的业务数据进行聚合得到第k+1粒度数据;否则,结束聚合过程。


4.根据权利要求2所述的方法,其特征在于,所述将所述目标数据基于预设热度规则存储于热度缓存区中,包括:
判断所述目标数据是否符合预设的第一热度规则或预设的第二热度规则;
将符合预设的第一热度规则的目标数据储存于所述热度缓存区中的第一热度缓存区,其中所述第一热度规则包括第一访问频率区间或第一时效时间区间;
将符合预设的第二热度规则的目标数据储存于所述热度缓存区中的第二热度缓存区,其中所述第二热度规则包括第二访问频率区间或第二时效时间区间。


5.根据权利要求4所述的方法,其特征在于,所述基于所述待查询数...

【专利技术属性】
技术研发人员:孟浩浩杨威
申请(专利权)人:政采云有限公司
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1