数据处理方法、风险识别方法、计算机设备、存储介质技术

技术编号:26531736 阅读:49 留言:0更新日期:2020-12-01 14:13
本申请实施例公开了一种数据处理方法。所述方法包括:获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合,其中,所述至少一个第二样本集合用于训练第二识别模型;确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求;合并所述第一样本集合和至少一个第二样本集合,得到代替所述第一样本集合的第三样本集合,作为训练所述第一识别模型的输入,从而补充了用于训练第一识别模型的样本,避免了因第一样本集合中样本数量过少导致第一识别模型的过拟合问题,继而提高了第一识别模型识别的覆盖率,提升识别效果。

【技术实现步骤摘要】
数据处理方法、风险识别方法、计算机设备、存储介质
本申请涉及数据处理
,具体涉及一种数据处理方法、一种风险识别方法、一种计算机设备、一种计算机可读存储介质。
技术介绍
随着计算机技术的发展,人工智能以及机器学习等技术越来越多地被实际应用。机器学习方法是计算机利用已有的数据,通过训练得出某种模型,并利用模型推测新的实例的方法。因此,训练过程需要历史已有的样本数据,并且样本数据对于最终得到的模型的预测效果将产生很大的影响。实践中,对于某些业务,历史已有的样本是比较稀缺的,例如,电子商务平台中,为了实现对假货、违禁品、欺诈等风险的防控,保障业务安全,通常会收集历史已有的黑白样本,训练风险识别模型来防控风险。但是有的平台中历史已有的黑样本是较少的。申请人经研究发现,如果样本过少,为了得到一致假设会使得假设变得过度严格,也就是说,一个假设在训练数据上能够获得比其他假设更好的拟合,但是在训练数据外的数据集上却不能很好地拟合数据,即出现了过拟合的现象。总之,在模型的训练过程中,样本过少会导致模型出现过拟合的现象,继而导致用模型进行推测的本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,包括:/n获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合,其中,所述至少一个第二样本集合用于训练第二识别模型;/n确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求;/n合并所述第一样本集合和至少一个第二样本集合,得到代替所述第一样本集合的第三样本集合,作为训练所述第一识别模型的输入。/n

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合,其中,所述至少一个第二样本集合用于训练第二识别模型;
确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求;
合并所述第一样本集合和至少一个第二样本集合,得到代替所述第一样本集合的第三样本集合,作为训练所述第一识别模型的输入。


2.根据权利要求1所述的方法,其特征在于,所述确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求包括:
对所述第一样本集合中的第一样本和第二样本集合中的第二样本进行聚类;
根据所述聚类结果,确定所述第一样本集合和第二样本集合之间的相似性数据;
确定所述相似性数据符合预设要求。


3.根据权利要求2所述的方法,其特征在于,所述根据所述聚类结果,确定所述第一样本集合和第二样本集合之间的相似性数据包括:
计算所述聚类结果中与所述第二样本归于同一类的第一样本的数量和所述第一样本的总数量的比值,作为所述相似性数据。


4.根据权利要求2所述的方法,其特征在于,在所述对所述第一样本集合中的第一样本和第二样本集合中的第二样本进行聚类之前,所述方法还包括:
合并所述第一样本集合和第二样本集合;
对所述第一样本和第二样本进行归一化处理和/或向量化处理。


5.根据权利要求1所述的方法,其特征在于,所述获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合包括:
从第一数据系统获取所述第一样本集合;
从第二数据系统获取所述第二样本集合。


6.根据权利要求5所述的方法,其特征在于,在所述从第二数据系统获取所述第二样本集合之前,所述方法还包括:
根据所述第一数据系统的系统属性,选取与所述第一数据系统匹配的第二数据系统。


7.根据权利要求1所述的方法,其特征在于,在所述确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求之后,所述方法还包括:
获取用于训练第四识别模型的第四样本集合和用于训练第五识别模型的第五样本集合;
确定所述第四样本集合与第一样本集合匹配,并且所述第五样本集合与第二样本集合匹配;
合并所述第四样本集合和第五样本集合,得到代替所述第四样本集合的第六样本集合,作为训练所述第四识别模型的输入。


8.根据权利要求7所述的方法,其特征在于,在所述确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求之前,所述方法还包括:
确定所述第一样本集合的特征数据和第二样本集合的特征数据;
所述确定所述第四样本集合与第一样本集合匹配,并且所述第五样本集合与第二样本集合匹配包括:
确定所述第四样...

【专利技术属性】
技术研发人员:俞飞江王榕朱成生高阳姜喆
申请(专利权)人:阿里巴巴集团控股有限公司
类型:发明
国别省市:开曼群岛;KY

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1