【技术实现步骤摘要】
一种数据查询方法和系统
本说明书涉及数据处理领域,特别涉及一种数据查询方法和系统。
技术介绍
随着信息分享技术的快速发展和普及,软件系统的用户访问量大幅度提升。访问用户的增加使得查询条件越来越复杂,数据需求量也越来越大。为了提高用户的访问速度并降低后端服务器的压力,在数据库、磁盘等慢速系统或设备的前端,一般采用缓存技术,利用内存等访问速度较快的设备存储用户经常访问的数据。但是多维度的在线查询,通常会涉及到大量的数据读取与在线计算,尤其当数据存储在磁盘上时,还需要从磁盘上调取数据,这对服务器的负载和响应耗时都构成了极大的考验。因此,希望提供一种可以在不降低时效性的基础上,提升查询效率、减少资源消耗的数据查询方法。
技术实现思路
本说明的其中一个实施例提供一种数据查询方法。该数据查询方法包括:获取磁盘中有效的文件列表,所述有效的文件列表包括至少一个文件;获取查询条件,并基于所述查询条件在所述至少一个文件的缓存中获取所述至少一个文件的信息摘要;根据所述至少一个文件的信息摘要判断所述至少一个文件是否变化, ...
【技术保护点】
1.一种数据查询方法,其特征在于,所述方法包括:/n获取磁盘中有效的文件列表,所述有效的文件列表包括至少一个文件;获取所述至少一个文件对应的信息摘要;/n根据所述信息摘要查询所述至少一个文件是否存在缓存的查询结果,是则获取所述查询结果;否则查询所述信息摘要对应的文件并将该查询结果进行缓存。/n
【技术特征摘要】
1.一种数据查询方法,其特征在于,所述方法包括:
获取磁盘中有效的文件列表,所述有效的文件列表包括至少一个文件;获取所述至少一个文件对应的信息摘要;
根据所述信息摘要查询所述至少一个文件是否存在缓存的查询结果,是则获取所述查询结果;否则查询所述信息摘要对应的文件并将该查询结果进行缓存。
2.如权利要求1所述的数据查询方法,其特征在于,所述获取所述至少一个文件对应的信息摘要包括:
利用信息摘要算法确定所述至少一个文件对应的信息摘要。
3.如权利要求1所述的数据查询方法,其特征在于,所述根据所述信息摘要查询所述至少一个文件是否存在缓存的查询结果,所述查询结果的确定方法包括:
获取查询条件,并基于所述查询条件在所述至少一个文件的缓存中获取所述至少一个文件的信息摘要;
根据所述至少一个文件的信息摘要判断所述至少一个文件是否变化,当所述至少一个文件未变化则获取所述至少一个文件缓存的查询结果;
否则查询所述信息摘要对应的文件并将该查询结果进行缓存。
4.如权利要求1所述的数据查询方法,其特征在于,所述查询所述信息摘要对应的文件并将该查询结果进行缓存包括:
过滤所述至少一个文件的子查询的返回数据;
合并过滤后的所述子查询的返回数据,生成查询结果并缓存。
5.如权利要求1所述的数据查询方法,其特征在于,所述方法还包括:
过滤所述查询结果中标记删除的数据记录。
6.如权利要求1所述的数据查询方法,其特征在于,所述方法还包括:
响应于数据更新请求,将数据更新信息写入内存;
当所述内存中更新信息的记录数等于第一阈值时,将所述内存中记录的所述更新信息序列化到磁盘;
获取所述磁盘中所述更新信息的记录数满足设定的合并条件的文件,当所述文件的个数达到第二阈值时,将所述文件合并写入所述磁盘。
7.如权利要求6所述的数据查询方法,其特征在于,所述方法还包括:
清理所述磁盘中合并文件对应的原始数据文件,并将所述合并文件纳入所述文件列表。
8.如权利要求1所述的数据查询方法,其特征在于,所述方法还包括:
当数据需要更新时,对待更新数据对应的记录逻辑标记删除,并将更新数据写入所述内存。
9.一种数据查询系统,其特征在于,包括获取模块和查找模块;
所述获取模块用于获取磁盘中的有效文件列表,所述有效...
【专利技术属性】
技术研发人员:王朝阳,
申请(专利权)人:支付宝杭州信息技术有限公司,
类型:发明
国别省市:浙江;33
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。