文本分类模型的训练方法、装置、电子设备及存储介质制造方法及图纸

本公开提供了一种文本分类模型的训练方法、装置、电子设备及存储介质，属于机器学习技术领域。方法包括：基于本次迭代过程对应的文本分类模型对样本标题文本进行分类，得到样本标题文本的概率向量；确定第一类别标签的目标标签权重，第一类别标签为样本标题文本所属的类别标签，目标标签权重的大小与属于第一类别标签的样本标题文本的数量成反比；根据概率向量和目标标签权重，确定本次迭代过程的第一损失值；响应于第一损失值符合目标条件，将文本分类模型作为训练完毕的文本分类模型。上述方法，使训练得到的文本分类模型能够对数据量较少的类别标签的特征进行有效的学习，从而提高文本分类模型的准确率。文本分类模型的准确率。文本分类模型的准确率。

【技术实现步骤摘要】
文本分类模型的训练方法、装置、电子设备及存储介质


[0001]本公开涉及机器学习
，特别涉及一种文本分类模型的训练方法、装置、电子设备及存储介质。

技术介绍

[0002]随着终端技术的发展，用户能够通过智能终端浏览各式各样的内容，如新闻、资讯、音乐以及视频等。相应的，各内容对应的服务提供商，为了吸引更多的用户浏览其提供的内容，需要能够根据用户的偏好为用户推荐可能感兴趣的内容。
[0003]目前，在进行内容推荐时，一种实现方式是对待推荐的内容进行数据预处理，然后直接通过模型编码器对预处理后的数据进行编码后，根据编码数据预测待推荐内容所属的标签，最后基于该标签进行内容推荐。
[0004]上述方案存在的问题是，分类模型的训练过程中，由于少部分标签对应的样本数据的数量较多，而大部分标签对应的样本数据的数量反而较少，导致在进行分类模型的训练时，样本数据的数量较少的标签的特征不能被分类模型有效学习，导致分类模型的准确率较低。

技术实现思路

[0005]本公开提供一种文本分类模型的训练方法、装置、电子设备及存储介质，通过本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本分类模型的训练方法，其特征在于，所述方法包括：基于本次迭代过程对应的文本分类模型对样本标题文本进行分类，得到所述样本标题文本的概率向量，所述概率向量用于表示所述样本标题文本被预测为多个类别标签的概率；确定第一类别标签的目标标签权重，所述第一类别标签为所述样本标题文本所属的类别标签，所述目标标签权重的大小与属于所述第一类别标签的样本标题文本的数量成反相关；根据所述概率向量和所述目标标签权重，确定所述本次迭代过程的第一损失值；响应于所述第一损失值符合目标条件，将所述文本分类模型作为训练完毕的文本分类模型。2.根据权利要求1所述的文本分类模型的训练方法，其特征在于，所述基于本次迭代过程对应的文本分类模型对样本标题文本进行分类，得到所述样本标题文本的概率向量，包括：基于所述文本分类模型，确定所述样本标题文本的特征向量，所述特征向量的维度数与所述多个类别标签的个数相同；根据所述特征向量对所述样本标题文本进行分类，得到所述样本标题文本的概率向量。3.根据权利要求2所述的文本分类模型的训练方法，其特征在于，所述基于所述文本分类模型，确定所述样本标题文本的特征向量，包括：基于所述文本分类模型，对所述样本标题文本的索引信息进行编码，得到所述样本标题文本的文本表征，所述索引信息用于指示所述样本标题文本包括的词汇的标识；对所述样本标题文本的文本表征进行线性映射，得到所述样本标题文本的特征向量。4.根据权利要求1至3任一项所述的文本分类模型的训练方法，其特征在于，所述确定第一类别标签的目标标签权重，包括：获取属于所述第一类别标签的样本标题文本的第一数量；根据所述第一数量所属的数量区间，确定所述第一类别标签的所述目标标签权重，其中，一个数量区间对应一个标签权重。5.根据权利要求4所述的文本分类模型的训练方法，其特征在于，所述数量区间的确定步骤包括：根据所述多个类别标签包括的样本标题文本的数量，对所述多个类别标签进行降序排序；获取至少一个头部标签，所述至少一个头部标签为排序在前且对应的数量百分比在目标百分比范围内的类别标签，所述数量百分比为所述头部标签包括的样本标题文本的数量的和值占样本标题文本的总数量的百分比；将不小于第二数量...

【专利技术属性】
技术研发人员：尚航，吕廷迅，杨森，高建煌，李江东，班鑫，聂旺文，
申请(专利权)人：北京达佳互联信息技术有限公司，
类型：发明
国别省市：