一种数据训练方法、装置、设备及存储介质制造方法及图纸

技术编号:26651256 阅读:27 留言:0更新日期:2020-12-09 00:52
本申请提供的一种数据训练方法、装置、设备及存储介质,获取原始训练数据集中的样本数据;并预处理得到正、负样本数据;分别针对正、负样本数据,遍历其所包含的所有列特征;分别针对正、负样本数据所包含的所有列特征,随机打乱每一列特征,并重新组合,得到新的正、负样本数据;并添加至原始训练数据集中,得到新的训练数据集;并用其进行模型训练。在本申请中,通过每样本数据中的特征进行随机打乱和重新组合,使N个特征相互独立,且每个特征都服从正态分布,基于此处理后,使非图像和非语音类数据可以进行数据增强,从而有效的扩充此类数据的数据集,在利用该类数据进行数据训练时,能够有效改善模型过拟合的现象,提升模型预测的准确率。

【技术实现步骤摘要】
一种数据训练方法、装置、设备及存储介质
本专利技术涉及数据处理
,具体地说,涉及一种数据训练方法、装置、设备及存储介质。
技术介绍
目前,使用训练样本数据进行模型训练的过程中,如果采用的训练样本数据规模较小,容易出现过拟合现象,即在进行模型训练的过程中过分依赖训练样本数据,从而对模型预测的结果准确性带来不利影响。对于图像类数据及语音类数据,通常采用诸如翻转、旋转和高斯噪声等数据增强手段对训练样本数据规模进行扩增,以改善进行模型训练的过程中出现的过拟合现象,提高模型预测的结果准确性;然而,对于非图像类数据和非语音类数据,无法通过上述数据增强手段对样本数据规模进行扩增,进而导致在利用非图像类数据和非语音类数据进行模型训练的过程中,容易出现的过拟合现象,以及预测结果不准确的问题。
技术实现思路
有鉴于此,本专利技术实施例提供一种数据训练方法、装置、设备及存储介质,以实现使用非图像类数据和非语音类数据进行模型训练的过程中,能通过数据增强手段进行样本数据规模的扩增,进而改善模型过拟合的现象,提升模型预测的准确率的目的。为实现上述目的,本专利技术实施例提供如下技术方案:一方面,本专利技术实施例提供一种数据训练方法,所述方法包括:获取原始训练数据集中的样本数据;对所述样本数据进行预处理,得到正样本数据和负样本数据;分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征;分别针对所述正样本数据和所述负样本数据所包含的所有列特征,随机打乱所述所有列特征中的每一列特征,并重新组合,得到新的正样本数据和新的负样本数据;将所述新的正样本数据和所述新的负样本数据添加至所述原始训练数据集中,得到新的训练数据集;利用所述新的训练数据集进行模型训练。可选的,所述分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征,包括:分别针对第一预设比例的所述正样本数据和第二预设比例的所述负样本数据,遍历所述第一预设比例的正样本数据和所述第二预设比例的负样本数据所包含的所有列特征;其中,所述第一预设比例指示用于遍历的正样本数据个数占所有的正样本数据个数的比例,所述第二预设比例指示用于遍历的负样本数据个数占所有的负样本数据个数的比例。可选的,根据权利要求1所述的方法,其特征在于,所述分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征,包括:分别针对满足第三预设比例关系的所述正样本数据和所述负样本数据,遍历所述满足第三预设比例关系的正样本数据和负样本数据所包含的所有列特征;其中,所述第三预设比例指示用于遍历的正样本数据个数与用于遍历的负样本数据个数之间的比例。所述分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征,包括:分别针对所有的所述正样本数据和所有的所述负样本数据,遍历所述所有的正样本数据和所述所有的负样本数据所包含的所有列特征。另一方面,本专利技术实施例提供一种数据训练装置,所述装置包括:获取模块,用于获取原始训练数据集中的样本数据;预处理模块,用于对所述样本数据进行预处理,得到正样本数据和负样本数据;遍历特征模块,用于分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征;处理模块,用于分别针对所述正样本数据和所述负样本数据所包含的所有列特征,随机打乱所述所有列特征中的每一列特征,并重新组合,得到新的正样本数据和新的负样本数据;添加模块,用于将所述新的正样本数据和所述新的负样本数据添加至所述原始训练数据集中,得到新的训练数据集;训练模块,用于利用所述新的训练数据集进行模型训练。可选的,所述遍历特征模块,具体用于分别针对第一预设比例的所述正样本数据和第二预设比例的所述负样本数据,遍历所述第一预设比例的正样本数据和所述第二预设比例的负样本数据所包含的所有列特征;其中,所述第一预设比例指示用于遍历的正样本数据个数占所有的正样本数据个数的比例,所述第二预设比例指示用于遍历的负样本数据个数占所有的负样本数据个数的比例。可选的,所述遍历特征模块,具体用于分别针对满足第三预设比例关系的所述正样本数据和所述负样本数据,遍历所述满足第三预设比例关系的正样本数据和负样本数据所包含的所有列特征;其中,所述第三预设比例指示用于遍历的正样本数据个数与用于遍历的负样本数据个数之间的比例。可选的,所述遍历特征模块,具体用于分别针对所有的所述正样本数据和所有的所述负样本数据,遍历所述所有的正样本数据和所述所有的负样本数据所包含的所有列特征。另一方面,本专利技术实施例提供一种数据训练设备,包括处理器和存储器;所述存储器,用于存储计算机程序;所述处理器,用于调用并执行所述存储器中存储的计算机程序时,实现如权利要求1至4中任一项所述的方法。另一方面,本专利技术实施例提供一种存储介质,所述存储介质中存储有计算机可执行指令,所述计算机可执行指令被处理器加载并执行时,实现如权利要求1至4中任一项所述的方法。基于上述本专利技术实施例提供的数据训练方法、装置、设备及存储介质,获取原始训练数据集中的样本数据;对样本数据进行预处理,得到正样本数据和负样本数据;分别针对正样本数据和负样本数据,遍历正样本数据和负样本数据所包含的所有列特征;分别针对正样本数据和负样本数据所包含的所有列特征,随机打乱所有列特征中的每一列特征,并重新组合,得到新的正样本数据和新的负样本数据;将新的正样本数据和新的负样本数据添加至原始训练数据集中,得到新的训练数据集;利用新的训练数据集进行模型训练。在本专利技术实施例提供的方案中,通过每样本数据中的特征进行随机打乱和重新组合,使得N个特征相互独立,且每个特征都服从正态分布,基于此处理后,使非图像和非语音类数据可以进行数据增强,从而有效的扩充此类数据的数据集,在利用该类数据进行数据训练时,能够有效改善模型过拟合的现象,提升模型预测的准确率。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。图1为本专利技术实施例提供的一种数据训练方法的流程示意图;图2为本专利技术实施例提供的一种数据训练装置的结构框图;图3为本专利技术实施例提供的一种数据训练设备的结构框图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,本文档来自技高网...

【技术保护点】
1.一种数据训练方法,其特征在于,所述方法包括:/n获取原始训练数据集中的样本数据;/n对所述样本数据进行预处理,得到正样本数据和负样本数据;/n分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征;/n分别针对所述正样本数据和所述负样本数据所包含的所有列特征,随机打乱所述所有列特征中的每一列特征,并重新组合,得到新的正样本数据和新的负样本数据;/n将所述新的正样本数据和所述新的负样本数据添加至所述原始训练数据集中,得到新的训练数据集;/n利用所述新的训练数据集进行模型训练。/n

【技术特征摘要】
1.一种数据训练方法,其特征在于,所述方法包括:
获取原始训练数据集中的样本数据;
对所述样本数据进行预处理,得到正样本数据和负样本数据;
分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征;
分别针对所述正样本数据和所述负样本数据所包含的所有列特征,随机打乱所述所有列特征中的每一列特征,并重新组合,得到新的正样本数据和新的负样本数据;
将所述新的正样本数据和所述新的负样本数据添加至所述原始训练数据集中,得到新的训练数据集;
利用所述新的训练数据集进行模型训练。


2.根据权利要求1所述的方法,其特征在于,所述分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征,包括:
分别针对第一预设比例的所述正样本数据和第二预设比例的所述负样本数据,遍历所述第一预设比例的正样本数据和所述第二预设比例的负样本数据所包含的所有列特征;
其中,所述第一预设比例指示用于遍历的正样本数据个数占所有的正样本数据个数的比例,所述第二预设比例指示用于遍历的负样本数据个数占所有的负样本数据个数的比例。


3.根据权利要求1所述的方法,其特征在于,所述分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征,包括:
分别针对满足第三预设比例关系的所述正样本数据和所述负样本数据,遍历所述满足第三预设比例关系的正样本数据和负样本数据所包含的所有列特征;
其中,所述第三预设比例指示用于遍历的正样本数据个数与用于遍历的负样本数据个数之间的比例。


4.根据权利要求1所述的方法,其特征在于,所述分别针对所述正样本数据和所述负样本数据,遍历所述正样本数据和所述负样本数据所包含的所有列特征,包括:
分别针对所有的所述正样本数据和所有的所述负样本数据,遍历所述所有的正样本数据和所述所有的负样本数据所包含的所有列特征。


5.一种数据训练装置,其特征在于,所述装置包括:
获取模块,用于获取原始训练数据集中的样本数据;
预处理...

【专利技术属性】
技术研发人员:万明霞
申请(专利权)人:中国银行股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1