System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据处理,尤其涉及数据处理方法、装置和存储介质。
技术介绍
1、近年来,数据的价值越来越被重视,数据资产被成为数字时代的“石油”是重要生产要素之一。企业级大数据平台包括大量的数据资产,这些大数据平台,每天运行着成千上万的数据处理任务,虽然为企业带来了巨大的价值,但是增加了数据管理成本和数据管理难度。因此,需要构建数据评价体系对数据进行规范化、系统化、全面化的评价。
2、相关数据处理的技术方案中,构建数据资产评价指标,对数据资产在业务运营管理层面的价值效益进行评价。但是,由于只针对具体业务(例如:电网等业务),未能针对大数据平台中的数据资产进行处理导致数据资产评价的精确性不够,因此,数据处理的效率较低。
技术实现思路
1、本专利技术提供了一种数据处理方法、装置和存储介质,以提高数据处理的效率。
2、根据本专利技术的一方面,提供了一种数据处理方法,该方法包括:
3、对于目标数据中的每个数据,确定与所述数据相对应的至少一个评价指标数据,并对所述至少一个评价指标数据进行预处理,以更新所述至少一个评价指标数据;
4、对于每个所述评价指标数据,基于预设权重参数,确定与所述评价指标数据相对应的目标评价指标数据;
5、基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果。
6、进一步的,所述xgboost模型包括特征重要性算法,所述基于预先训练得到的xgboost模型对各目标评价指标
7、基于特征重要性算法对各所述目标评价指标数据进行处理,得到各所述目标评价指标数据的特征重要性结果;
8、基于所述特征重要性结果确定重要评价指标数据。
9、进一步的,所述基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果,包括:
10、基于所述xgboost模型对各所述目标评价指标数据进行融合处理,得到与所述目标数据的每个数据相对应的融合评价指标数据;
11、对所述融合评价指标数据进行映射,得到与处于设定数值范围内的评价分数。
12、进一步的,所述基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果,还包括:
13、基于所述目标处理结果和预设阈值,生成关于所述目标数据的提示信息并提示。
14、进一步的,所述确定与所述数据相对应的至少一个评价指标数据,并对所述至少一个评价指标数据进行预处理,以更新所述至少一个评价指标数据,包括:
15、基于预设对应关系,确定与所述数据相对应的至少一个评价指标数据,其中,所述预设对应关系包括数据与所述评价指标数据的对应关系;
16、对所述至少一个评价指标数据进行归一化处理,以更新所述至少一个评价指标数据。
17、进一步的,所述对于每个所述评价指标数据,基于预设权重参数,确定与所述评价指标数据相对应的目标评价指标数据,包括:
18、对于每个评价指标,基于预设权重配置表,确定与所述评价指标对应的权重参数;
19、基于各所述权重参数确定与所述评价指标数据相对应的目标评价指标数据。
20、进一步的,所述方法还包括:
21、构建训练数据集,以基于所述训练数据集中的每个训练数据来训练所述xgboost模型;
22、所述构建训练数据集,包括:
23、获取多个测试数据;
24、确定每个所述测试数据相对应的各评价指标数据,并基于每个所述评价指标数据对应的权重参数,得到与所述评价指标数据相对应的目标评价指标数据;
25、基于与每个所述目标评价指标数据相对应的评价分数,确定与所述测试数据相对应的评价分数;
26、将所述目标评价指标数据作为输入数据;
27、基于各所述输入数据和相应的评价分数,确定所述训练数据集中的训练样本。
28、进一步的,所述基于所述训练数据集中的每个训练数据来训练所述xgboost模型,包括:
29、对于各训练数据,将当前训练数据中的输入数据输入至所述xgboost模型中,得到待处理预测评价分数;
30、基于所述待处理预测评价分数以及所述当前训练数据中的标准评价分数,确定损失值,以基于所述损失值对所述xgboost模型中的模型参数进行修正;
31、将所述xgboost模型中的损失函数收敛作为训练目标,得到所述xgboost模型。
32、根据本专利技术的另一方面,提供了一种数据处理装置,该装置包括:
33、数据更新模块,用于对于目标数据中的每个数据,确定与所述数据相对应的至少一个评价指标数据,并对所述至少一个评价指标数据进行预处理,以更新所述至少一个评价指标数据;
34、目标数据确定模块,用于对于每个所述评价指标数据,基于预设权重参数,确定与所述评价指标数据相对应的目标评价指标数据;
35、数据处理模块,用于基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果。
36、根据本专利技术的另一方面,提供了一种电子设备,该电子设备包括:
37、至少一个处理器;以及
38、与至少一个处理器通信连接的存储器;其中,
39、存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本专利技术任一实施例的数据处理方法。
40、根据本专利技术的另一方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本专利技术任一实施例的数据处理方法。
41、本专利技术实施例的技术方案,对于目标数据中的每个数据,确定与所述数据相对应的至少一个评价指标数据,并对所述至少一个评价指标数据进行预处理,以更新所述至少一个评价指标数据;对于每个所述评价指标数据,基于预设权重参数,确定与所述评价指标数据相对应的目标评价指标数据;基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果。解决了数据处理效率较低的问题,提高数据处理效率。
42、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述XGBoost模型包括特征重要性算法;
3.根据权利要求1或2所述的方法,其特征在于,所述基于预先训练得到的XGBoost模型对各目标评价指标数据进行处理,得到目标处理结果,包括:
4.根据权利要求1、2或3所述的方法,其特征在于,所述基于预先训练得到的XGBoost模型对各目标评价指标数据进行处理,得到目标处理结果,还包括:
5.根据权利要求1所述的方法,其特征在于,所述确定与所述数据相对应的至少一个评价指标数据,并对所述至少一个评价指标数据进行预处理,以更新所述至少一个评价指标数据,包括:
6.根据权利要求1所述的方法,其特征在于,所述对于每个所述评价指标数据,基于预设权重参数,确定与所述评价指标数据相对应的目标评价指标数据,包括:
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
8.根据权利要求7所述的方法,其特征在于,所述基于所述训练数据集中的每个训练数据来训练所述XGBoost模型,包括:
9.一种数据处理装置,其特征在于,包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-6中任一项所述的数据处理方法。
...【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述xgboost模型包括特征重要性算法;
3.根据权利要求1或2所述的方法,其特征在于,所述基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果,包括:
4.根据权利要求1、2或3所述的方法,其特征在于,所述基于预先训练得到的xgboost模型对各目标评价指标数据进行处理,得到目标处理结果,还包括:
5.根据权利要求1所述的方法,其特征在于,所述确定与所述数据相对应的至少一个评价指标数据,并对所述至少一个评价指标数据进行预处理,以更新所述至少一...
【专利技术属性】
技术研发人员:王长天,史珂宇,刘一阳,
申请(专利权)人:中国农业银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。