基于结构化查询语言的数据查询方法、装置和系统制造方法及图纸

技术编号:20025672 阅读:36 留言:0更新日期:2019-01-06 04:32
本申请实施例公开了基于结构化查询语言的数据查询方法、装置和系统。所述方法的一实施例包括:基于结构化查询语言的数据查询方法,包括:响应于接收到数据查询请求,解析数据查询请求以确定发起数据查询请求的用户的用户身份信息以及数据查询请求的并发度;基于用户身份信息和数据查询请求的并发度确定用户的可调用资源;响应于确定用户具有可调用资源,利用可调用资源执行数据查询请求所指示的数据查询任务。该实现方式有效地缓解了多用户资源共享时可能造成的部分用户的请求等待执行的时间过长的现象,有利于提升执行各用户发起的数据查询请求的响应速度。

【技术实现步骤摘要】
基于结构化查询语言的数据查询方法、装置和系统
本申请实施例涉及通信
,具体涉及分布式数据存储领域,尤其涉及基于结构化查询语言的数据查询方法、装置和系统。
技术介绍
在当今的大数据时代,基于对分布式数据集的SQL(StructuredQueryLanguage,结构化查询语言)查询进行的数据分析以及报表产出,是互联网公司、数据分析公司甚至部分传统企业的普遍需求。现有的利用Spark框架进行SQL查询的方案包括如下两种:启动一个Spark-Shell或者Spark-SQL的客户端进行交互式查询。或者,以Spark-Submit的方式提交一个Spark作业,作业逻辑内完成SQL查询以及其他处理逻辑。
技术实现思路
本申请实施例提出了基于结构化查询语言的数据查询方法、装置和系统。第一方面,本申请实施例提供了一种基于结构化查询语言的数据查询方法,包括:基于结构化查询语言的数据查询方法,包括:响应于接收到数据查询请求,解析数据查询请求以确定发起数据查询请求的用户的用户身份信息以及数据查询请求的并发度;基于用户身份信息和数据查询请求的并发度确定用户的可调用资源;响应于确定用户具有可调用资源,利用本文档来自技高网...

【技术保护点】
1.一种基于结构化查询语言的数据查询方法,包括:响应于接收到数据查询请求,解析所述数据查询请求以确定发起所述数据查询请求的用户的用户身份信息以及所述数据查询请求的并发度;基于所述用户身份信息和所述数据查询请求的并发度确定所述用户的可调用资源;响应于确定所述用户具有可调用资源,利用所述可调用资源执行所述数据查询请求所指示的数据查询任务。

【技术特征摘要】
1.一种基于结构化查询语言的数据查询方法,包括:响应于接收到数据查询请求,解析所述数据查询请求以确定发起所述数据查询请求的用户的用户身份信息以及所述数据查询请求的并发度;基于所述用户身份信息和所述数据查询请求的并发度确定所述用户的可调用资源;响应于确定所述用户具有可调用资源,利用所述可调用资源执行所述数据查询请求所指示的数据查询任务。2.根据权利要求1所述的方法,其中:所述基于所述用户身份信息和所述数据查询请求的并发度确定所述用户的可调用资源,包括:基于所述用户身份确定所述用户的当前可用并发度;所述响应于确定所述用户具有可调用资源,利用所述可调用资源执行所述数据查询请求所指示的数据查询任务,包括:响应于确定所述数据查询请求的并发度不超过当前可用并发度,利用预先向所述用户分配计算资源执行所述数据查询请求所指示的数据查询任务。3.根据权利要求2所述的方法,其中,所述基于所述用户身份确定所述用户的当前可用并发度,包括:基于所述用户身份确定所述用户的最大并发度和当前运行并发度,其中,所述用户最大并发度基于预先设置的最大并行执行任务数确定;以及将所述用户的最大并发度和当前运行并发度之差作为所述用户的当前可用并发度。4.根据权利要求3所述的方法,其中,所述最大并发度还包括当前可借用资源,其中,所述当前可借用资源为其他用户的当前未使用计算资源。5.根据权利要求1-4任意一项所述的方法,其中,所述方法还包括:向调度层反馈用于指示各用户的当前运行并发度的并发度信息以及各用户的待执行任务信息,以使所述调度层基于所述并发度信息和所述待执行任务信息确定是否下发所接收到的用户查询请求。6.一种基于结构化查询语言的数据查询系统,包括至少一个任务处理单元,其中,各所述任务处理单元用于执行如权利要求1-5之一所述的方法。7.根据权利要求6所述的系统,其中,所述系统还包括任务调度层;所述任务调度层用于响应于接收到数据查询请求,解析所述数据查询请求以确定发起所述数据查询请求的用户的用户身份信息,并基于所确定的用户身份信息,向其中一个任务处理单元转发所述数据查询请求。8.根据权利要求6或7所述的系统,其中,所述任务调度层还用于:响应于接收到任务处理单元发送的用户的当前运行并发度的并发度信息以...

【专利技术属性】
技术研发人员:李元健黄腾飞张铠琪
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1