【技术实现步骤摘要】
一种基于内存计算的数据查询加速方法和设备
本申请涉及大数据处理领域,更具体地,涉及一种基于内存计算的数据查询加速方法和设备。
技术介绍
自助分析业务系统为电信运营商提供数据提取和分析的自助化平台。此平台利用已有的用户数据资源,通过提取和分析,变为具有商业价值的可用资源。自助分析业务系统支撑运营商内部业务运营分析及其用户自助查询消费记录、套餐使用情况等业务需求,是一种自助类型的数据统计分析服务平台,业务人员在自助分析平台进行数据模型上架、自助取数、数据关联分析、自助报表等操作流程。如图1所述为现有技术中自助分析业务系统数据获取过程示意图,以某省运营商为例,系统服务的用户覆盖全省及下属各个地市。目前,该省运营商各个地市的业务及用户数据均单独存放在各个地市搭建的本地数据源中,而为高效快速地进行数据理解和处理,保证数据质量和数据完整性,需要汇聚运营商从各个市、县的所有业务及用户数据的关系数据库,以满足用户的个性化自助查询和分析的要求,保障系统能够根据用户查询条件查找出相关数据,并将查询结果反馈给用户。自助分析业务访问 ...
【技术保护点】
1.一种基于内存计算的数据查询加速方法,其特征在于,所述方法应用于包括数据仓库和内存数据库的系统中,所述内存数据库中存储有从所述数据仓库提取的热数据,所述方法包括:/n接收用户发送的数据查询请求;/n根据所述数据查询请求对应的执行计划从所述内存数据库中确定查询结果;/n若在所述查询结果中存在与所述数据查询请求对应的结果数据,将所述结果数据返回给所述用户并结束所述数据查询请求对应的查询进程。/n
【技术特征摘要】
1.一种基于内存计算的数据查询加速方法,其特征在于,所述方法应用于包括数据仓库和内存数据库的系统中,所述内存数据库中存储有从所述数据仓库提取的热数据,所述方法包括:
接收用户发送的数据查询请求;
根据所述数据查询请求对应的执行计划从所述内存数据库中确定查询结果;
若在所述查询结果中存在与所述数据查询请求对应的结果数据,将所述结果数据返回给所述用户并结束所述数据查询请求对应的查询进程。
2.如权利要求1所述的方法,其特征在于,在接收用户发送的数据查询请求之前,还包括:
接收监测到的热数据事件,所述热数据事件是根据所述数据仓库中各数据页的访问频次触发的;
根据所述热数据事件确定所述数据仓库中的待提取热数据的热数据量;
根据所述热数据量和所述内存数据库的可用存储空间将所述待提取热数据加载到所述内存数据库中。
3.如权利要求2所述的方法,其特征在于,根据所述热数据量和所述内存数据库的可用存储空间将所述待提取热数据加载到所述内存数据库中,具体为:
判断所述可用存储空间是否大于所述热数据量;
若是,基于所述可用存储空间将所述待提取热数据加载到所述内存数据库中;
若否,基于扩展后的可用存储空间将所述待提取热数据加载到所述内存数据库中。
4.如权利要求2所述的方法,其特征在于,在根据所述热数据量和所述内存数据库的可用存储空间将所述待提取热数据加载到所述内存数据库中之前,所述方法还包括:
基于预设数据量对所述待提取热数据划分,所述预设数据量小于所述热数据量;
根据所述划分的结果确定所述待提取热数据的多个加载批次,以根据所述热数据量和所述内存数据库的可用存储空间将所述待提取热数据按多个所述加载批次加载到所述内存数据库中。
5.如权利要求1所述的方法,其特征在于,若所述查询结果中不存在所述结果数据,所述方法还包括:
根据所述执行计划查询所述数据仓库,以判断所述数据仓库中是否存在所述结果数...
【专利技术属性】
技术研发人员:刘睿民,
申请(专利权)人:威讯柏睿数据科技北京有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。