基于数据中台的数据处理方法、电子设备和存储介质技术

技术编号:41153187 阅读:21 留言:0更新日期:2024-04-30 18:18
本发明专利技术提供了一种基于数据中台的数据处理方法、电子设备和存储介质,包括:基于当前数据中台对应的历史查询信息集获取目标执行时间预测模型,并得到目标影响参数;基于接收到目标SQL任务,获取所述目标SQL任务对应的目标影响参数对应的影像值,作为输入数据;将所述输入数据输入至所述目标执行时间预测模型中,得到对应的预测执行时间。本发明专利技术能够对SQL任务的执行时间进行预测,能够提升用户体验。

【技术实现步骤摘要】

本专利技术涉及数据处理领域,特别是涉及一种基于数据中台的数据处理方法、和电子设备和存储介质。


技术介绍

1、在一些应用场景中,需要使用sql任务执行查询任务。当前,对于给定的sql查询任务,不能提前知晓大概多久能够执行完,即对应的查询时间无法提前知晓。这样,可能会导致任务处理不及时,用户体验差。


技术实现思路

1、针对上述技术问题,本专利技术采用的技术方案为:

2、本专利技术实施例提供一种基于数据中台的数据处理方法,所述方法包括如下步骤:

3、s100,基于当前数据中台对应的历史查询信息集i获取目标执行时间预测模型,并得到目标影响参数;i={i1,i2,……,ii,……,in},ii为i中的第i个历史查询信息,i的取值为1到n,n为i中的历史查询信息的数量;ii={ui,qi,ti},bi为ii对应的sql任务的id,qi为ii对应的影响参数的影响值,ti为ii对应的sql任务的执行时间;qi=(qi1,qi1),qi1为qi中的第1类影响参数对应的影响值集,qi1={q1i1,q2i本文档来自技高网...

【技术保护点】

1.一种基于数据中台的数据处理方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的方法,其特征在于,其中,S100具体包括:

3.根据权利要求1所述的方法,其特征在于,所述第1类影响参数至少包括SQL关联的表的字段、数据量级和存储容量;所述第2类影响参数至少包括:SQL语句的联接操作、SQL语句的子查询、SQL语句的聚合操作、SQL语句的重运算、SQL语句的聚合函数、SQL语句的过滤条件和SQL语句的数据转换。

4.根据权利要求3所述的方法,其特征在于,第1类影响参数中的第j1个影响参素的影响值Qj11=∑wb=1Aj11b,Aj11b为...

【技术特征摘要】

1.一种基于数据中台的数据处理方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的方法,其特征在于,其中,s100具体包括:

3.根据权利要求1所述的方法,其特征在于,所述第1类影响参数至少包括sql关联的表的字段、数据量级和存储容量;所述第2类影响参数至少包括:sql语句的联接操作、sql语句的子查询、sql语句的聚合操作、sql语句的重运算、sql语句的聚合函数、sql语句的过滤条件和sql语句的数据转换。

4.根据权利要求3所述的方法,其特征在于,第1类影响参数中的第j1个影响参素的影响值qj11=∑wb=1aj11b,aj11b为sql语句关联的第b个表对应的第j1个影响因素对应的属性值,b的取值为1到w,w为sql语句对应关联的表的数量;所述属性值为表征影响参数大小的值。

5.根据权...

【专利技术属性】
技术研发人员:李强初乃强安西平
申请(专利权)人:奇点数联北京科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1