分类模型的训练方法和装置制造方法及图纸

本申请涉及人工智能技术领域，提供了一种分类模型的训练方法和装置。该方法包括：获取待训练数据的头部特征和尾部特征；根据头部特征中的类别信息，提取头部特征的同类特征对；根据头部特征的同类特征对，提取与类别无关的特征；利用非全局注意力机制，将与类别无关的特征与尾部特征融合，得到自适应增广特征；融合自适应增广特征和尾部特征，得到增广尾部特征；对头部特征、尾部特征和增广尾部特征进行特征提取后并进行分类预测，得到分类结果；根据分类损失和预设尾部增广处理损失，更新分类模型的参数。该方法能够提升分类模型的分类性能。本发明专利技术实施例可应用于云技术、人工智能、智慧交通、辅助驾驶等各种场景。辅助驾驶等各种场景。辅助驾驶等各种场景。

【技术实现步骤摘要】
分类模型的训练方法和装置


[0001]本申请涉及计算机视觉技术和人工智能
，特别是涉及一种分类模型的训练方法、装置、计算机设备、存储介质和计算机程序产品。

技术介绍

[0002]随着人工智能技术的快速发展，人工智能被广泛应用在各行各业。以人工智能在图像处理上的应用为例，利用人工智能进行机器学习训练分类模型，能够提高图像分类的效率和精度。
[0003]其中，分类模型的精度还受限于训练样本，训练样本越多，标注结果越精确，训练得到的分类模型的预测精度也越精确。然而，在实际应用中，训练样本通常表现为长尾类分布。位于头部的一小部分类别含有较多数量的样本，剩下的类别含有较少数量的样本。样本数据据的长尾分布会，会使得模型在数量较多的样本上学习效果更好，而在数量较小的样本上学习效果更差，从而降低了模型的泛化性能，对模型性能造成影响。

技术实现思路

[0004]基于此，有必要针对上述技术问题，提供一种能够提高模型性能的分类模型的训练方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
[0005]第一方面，本申请提供本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种分类模型的训练方法，其特征在于，所述方法包括：获取待训练数据的头部特征和尾部特征；根据所述头部特征中的类别信息，提取所述头部特征的同类特征对；根据所述头部特征的同类特征对，提取与类别无关的特征；利用非全局注意力机制，将所述与类别无关的特征与所述尾部特征融合，得到自适应增广特征；融合所述自适应增广特征和所述尾部特征，得到增广尾部特征；对所述头部特征、所述尾部特征和所述增广尾部特征进行特征提取后并进行分类预测，得到分类结果；根据分类损失和预设尾部增广处理损失，更新所述分类模型的参数，直到所述分类模型收敛时，得到训练好的分类模型。2.根据权利要求1所述的方法，其特征在于，所述利用非全局注意力机制，将所述与类别无关的特征与所述尾部特征融合，得到自适应增广特征，包括：根据所述与类别无关的特征与所述尾部特征的相似度，得到全局相似度特征；利用所述全局相似度特征对所述尾部特征进行注意，得到所述增广尾部特征。3.根据权利要求1所述的方法，其特征在于，所述预设尾部增广处理损失包括不同类别特征之间的对比损失；所述方法还包括：计算不同类别特征之间的相似度，得到不同类别特征的对比损失，所述对比损失的约束目标为拉近同类特征之间的距离，推远不同类特征之间的距离。4.根据权利要求1所述的方法，其特征在于，所述预设尾部增广处理损失包括增广尾部特征的类别损失；所述方法还包括：根据所述增广尾部特征与同源的尾部特征的类别的差异，计算增广尾部特征的类别损失，所述增广尾部特征的类别损失的约束目标为使增广尾部特征与同源的尾部特征的类别相同。5.根据权利要求1、3或4所述的方法，其特征在于，所述预设尾部增广处理损失包括增广处理的循环重构损失；所述方法还包括：对所述尾部特征中重构得到重构的自适应增广特征；对所述重构的自适应增广特征重构得到重构的尾部特征；根据所述自适应增广特征和所述重构的自适应增广特征的差异，以及根据所述尾部特征和所述重构的尾部特征之间的差异，计算得到所述重构损失；所述重构损失的约束目标为能够从所述尾部特征中重构中所述自适应增广特征，从重构得到的自适应增广特征重构出初始的尾部特征。6.根据权利要求5所述的方法，其特征在于，所述预设尾部增广处理损失包括增广处理的模式寻找损失；所述方法还包括：根据不同类别尾部特征间的差异与不同类别增广尾部特征间的差异的比值，以及不同类别头部特征之间的差异与不同类别增广尾部特征间的差异的比值，计算增广处理的模式寻找损失；
所述增广处理的模式寻找损失的约束目...

【专利技术属性】
技术研发人员：洪燕，孙众毅，鄢科，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：