【技术实现步骤摘要】
本专利技术涉及数据处理领域,特别是涉及一种基于数据中台的数据处理方法、和电子设备和存储介质。
技术介绍
1、在一些应用场景中,需要使用sql任务执行查询任务。当前,对于给定的sql查询任务,不能提前知晓大概多久能够执行完,即对应的查询时间无法提前知晓。这样,可能会导致任务处理不及时,用户体验差。
技术实现思路
1、针对上述技术问题,本专利技术采用的技术方案为:
2、本专利技术实施例提供一种基于数据中台的数据处理方法,所述方法包括如下步骤:
3、s100,基于当前数据中台对应的历史查询信息集i获取目标执行时间预测模型,并得到目标影响参数;i={i1,i2,……,ii,……,in},ii为i中的第i个历史查询信息,i的取值为1到n,n为i中的历史查询信息的数量;ii={ui,qi,ti},bi为ii对应的sql任务的id,qi为ii对应的影响参数的影响值,ti为ii对应的sql任务的执行时间;qi=(qi1,qi1),qi1为qi中的第1类影响参数对应的影响值集,qi1
...【技术保护点】
1.一种基于数据中台的数据处理方法,其特征在于,所述方法包括如下步骤:
2.根据权利要求1所述的方法,其特征在于,其中,S100具体包括:
3.根据权利要求1所述的方法,其特征在于,所述第1类影响参数至少包括SQL关联的表的字段、数据量级和存储容量;所述第2类影响参数至少包括:SQL语句的联接操作、SQL语句的子查询、SQL语句的聚合操作、SQL语句的重运算、SQL语句的聚合函数、SQL语句的过滤条件和SQL语句的数据转换。
4.根据权利要求3所述的方法,其特征在于,第1类影响参数中的第j1个影响参素的影响值Qj11=∑wb=1Aj
...【技术特征摘要】
1.一种基于数据中台的数据处理方法,其特征在于,所述方法包括如下步骤:
2.根据权利要求1所述的方法,其特征在于,其中,s100具体包括:
3.根据权利要求1所述的方法,其特征在于,所述第1类影响参数至少包括sql关联的表的字段、数据量级和存储容量;所述第2类影响参数至少包括:sql语句的联接操作、sql语句的子查询、sql语句的聚合操作、sql语句的重运算、sql语句的聚合函数、sql语句的过滤条件和sql语句的数据转换。
4.根据权利要求3所述的方法,其特征在于,第1类影响参数中的第j1个影响参素的影响值qj11=∑wb=1aj11b,aj11b为sql语句关联的第b个表对应的第j1个影响因素对应的属性值,b的取值为1到w,w为sql语句对应关联的表的数量;所述属性值为表征影响参数大小的值。
5.根据权...
【专利技术属性】
技术研发人员:李强,初乃强,安西平,
申请(专利权)人:奇点数联北京科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。