数据处理方法、装置、介质和计算设备制造方法及图纸

技术编号:24573992 阅读:53 留言:0更新日期:2020-06-21 00:07
本发明专利技术的实施方式提供了一种数据处理方法。该数据处理方法包括:获取多个历史访问请求,多个历史访问请求分别用于访问数据库中存储的数据,所述数据库包括第一存储区域和第二存储区域;获取第一数据集合中每项数据的数据量,其中,第一数据集合是第一存储区域存储的数据;基于多个历史访问请求和每项数据的数据量,确定第一数据集合是否包含冷数据;以及在确定第一数据集合包含冷数据的情况下,将冷数据迁移至第二存储区域;其中,第一存储区域的读写性能高于第二存储区域的读写性能。通过智能地判断数据的冷热程度,将冷热数据分离存储,从而在提高数据库的读写性能的同时降低运行成本。

Data processing methods, devices, media and computing equipment

【技术实现步骤摘要】
数据处理方法、装置、介质和计算设备
本专利技术的实施方式涉及计算机
,更具体地,本专利技术的实施方式涉及一种数据处理方法和一种数据处理装置、介质和计算设备。
技术介绍
本部分旨在为权利要求书中陈述的本专利技术的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。随着移动终端、云计算和物联网的普及,我们正进入一个数据飞速膨胀的时代。如何针对大量膨胀的数据,设计出更高性价比的存储和访问策略,是存储和数据领域的热点研究课题。根据数据的冷热程度,可以简单分为热数据和冷数据。目前,已经出现一些将冷数据和热数据分离存储的技术方案,但是目前出现的相关技术方案往往是针对不同业务场景来区分冷数据和热数据而导致数据库的读写性能较低,并且运行成本较高。
技术实现思路
因此在现有技术中,无法实时地自动调整或智能识别冷数据和热数据这是非常令人烦恼的过程。为此,非常需要一种改进的数据处理方法,以使电子设备能够智能识别冷数据或者热数据,从而智能地将冷热数据分离存储。在本上下文中,本专利技术的实施本文档来自技高网...

【技术保护点】
1.一种数据处理方法,包括:/n获取多个历史访问请求,所述多个历史访问请求分别用于访问数据库中存储的数据,所述数据库包括第一存储区域和第二存储区域;/n获取第一数据集合中每项数据的数据量,其中,所述第一数据集合是所述第一存储区域存储的数据;/n基于所述多个历史访问请求和所述每项数据的数据量,确定第一数据集合是否包含冷数据;以及/n在确定所述第一数据集合包含冷数据的情况下,将所述冷数据迁移至所述第二存储区域;/n其中,所述第一存储区域的读写性能高于所述第二存储区域的读写性能。/n

【技术特征摘要】
1.一种数据处理方法,包括:
获取多个历史访问请求,所述多个历史访问请求分别用于访问数据库中存储的数据,所述数据库包括第一存储区域和第二存储区域;
获取第一数据集合中每项数据的数据量,其中,所述第一数据集合是所述第一存储区域存储的数据;
基于所述多个历史访问请求和所述每项数据的数据量,确定第一数据集合是否包含冷数据;以及
在确定所述第一数据集合包含冷数据的情况下,将所述冷数据迁移至所述第二存储区域;
其中,所述第一存储区域的读写性能高于所述第二存储区域的读写性能。


2.根据权利要求1所述的方法,其中,所述基于所述多个历史访问请求和所述每项数据的数据量,确定第一数据集合是否包含冷数据包括:
基于所述多个历史访问请求,确定所述第一数据集合中每项数据的访问频率;
基于每项数据的所述访问频率和每项数据的所述数据量,对所述每项数据的冷热程度进行评分,并获得评分排序结果;以及
根据所述评分排序结果确定冷数据。


3.根据权利要求1所述的方法,还包括:
由主线程接收来自客户端的当前访问请求;
在所述当前访问请求所请求访问的数据为冷数据的情况下,由所述主线程向异步线程发送根据所述当前访问请求生成的访问任务,以由所述异步线程根据所述访问任务,将所述冷数据从所述第二存储区域加载到所述第一存储区域;
所述主线程响应于接收到来自所述异步线程的通知消息,生成并向所述客户端发送针对所述当前访问请求的响应结果;以及
所述主线程根据所述响应结果,更新所述第一存储区域中存储的第一数据集合。


4.根据权利要求3所述的方法,还包括:
在所述当前访问请求所请求访问的数据为冷数据的情况下,所述主线程增加所述数据的值的引用计数;
将所述数据的键添加到任务列表以锁定所述当前访问请求的处理位序。


5.根据权利要求4所述的方法,还包括:
响应于接收到将所述主线程操作的所述数据释放的指令,减少针对所述数据的引用计数;以及
在所述数据的引用计数减少为零的情况下,所述主线程释放操作的所述数据所占据的内存空间。


6.根据权利要求3所述的方法,还包括:
在所述当前访问请求所请求访问的数据的值为冷数据或者迁移数据的情况下,将发送所述当前访问请求的客户端添加至客户端列表中,其中,所述迁移数据为正在被所述异步线程从第一存储区域迁移至第二存储区域的数据;或者位于所述异步线程的待处理列表中,以等待被从第一存储区域迁移至第二存储区域的数...

【专利技术属性】
技术研发人员:闫明张小刚毛迎春
申请(专利权)人:杭州朗和科技有限公司
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1