一种通过复合损失函数提升模型学习效果的方法技术

技术编号:24888869 阅读:32 留言:0更新日期:2020-07-14 18:16
本发明专利技术公开了一种通过复合损失函数提升模型学习效果的方法,基于LTR算法中的pointwise和pairwise方法构建一复合损失函数,通过该复合损失函数让模型从不同角度对目标进行学习,有效提升了模型的学习效果。该模型综合了pointwise和pairwise两种算法的优势,能够在关注目标排序的同时,同样关注对目标的分类效果。本发明专利技术还提供了一种模型训练系统,可构建所述复合损失函数以提升模型学习效果。本发明专利技术另外提供了一种模型训练方法,通过应用所述的模型训练系统实现。

【技术实现步骤摘要】
一种通过复合损失函数提升模型学习效果的方法
本专利技术涉及机器学习
,具体涉及一种通过复合损失函数提升模型学习效果的方法。
技术介绍
现有的LTR(learningtoRank)算法分为pointwise单文档、pairwise文档对和listwise文档列表三种方法。相比于pointwise,pairwise和listwise被认为具有更好地排序效果。但是在一些特定的排序场景下,需要既关注LTR算法对目标的排序效果,同时需要关注LTR算法对目标的分类效果。pointwise方法能够更多地关注对目标的分类效果,但是目前pointwise、pairwise和listwise三种方法被割裂使用,无法集中各种算法的优势,提升模型对目标的预测效果。
技术实现思路
本专利技术的目的在于提供一种通过复合损失函数提升模型学习效果的方法,以解决上述技术问题。为达此目的,本专利技术采用以下技术方案:提供一种通过复合损失函数提升模型学习效果的方法,用于通过LTR算法提升模型学习效果,模型通过以下的复合损失函数对目标进行学习本文档来自技高网...

【技术保护点】
1.一种通过复合损失函数提升模型学习效果的方法,用于通过LTR算法提升模型学习效果,其特征在于,模型通过以下的复合损失函数对目标进行学习:/n

【技术特征摘要】
1.一种通过复合损失函数提升模型学习效果的方法,用于通过LTR算法提升模型学习效果,其特征在于,模型通过以下的复合损失函数对目标进行学习:



其中,Φ为pointwise算法的损失函数;
Θ为pairwise算法的损失函数;
x用于表示所述模型的训练样本;
w用于表示训练所述模型的模型参数;
f(x,w)用于表示所述模型预测所述样本x为对应类的输出分数;
xi用于表示第i个所述样本x;
xj用于表示第j个所述样本x。


2.一种模型训练系统,可通过构建复合损失函数以提升模型学习效果,其特征在于,包括:
pointwise损失函数设定模块,用于提供给用户设定所述pointwise算法的损失函数Φ;
pairwise损失函数设定模块,用于提供给所述用户设定所述pairwise算法的损失函数Θ;
复合损失函数形成模块,分别连接所述pointwise损失函数设定模块和所述pairwise损失函数设定模块,用于根据所述损失函数Φ和所述损失函数Θ形成所述复合损失函数;
模型参数设置模块,用于设置训练所述模型的所述模型参数w;
样本获取模块,用于获取训练所述模型的所述样本x;
模型训练模块,分别连接所述复合损失函数形成模块、所述模型参数设置模块和所述样本获取模块,用于以所述样本x为训练样本,并基于所述复合损失函数和所述模型参数w,训练形成所述模型。


3.如权利要求2所述的模型训练系统,其特征在于,所述复合损失函数通过以...

【专利技术属性】
技术研发人员:周鹏程何君柯吴腾虎
申请(专利权)人:创新奇智青岛科技有限公司
类型:发明
国别省市:山东;37

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1