【技术实现步骤摘要】
本专利技术涉及数据处理，特别涉及一种搜索引擎点击模型的训练方法。
技术介绍
1、随着信息数据的爆炸式增长，用户在互联网中快速高效地获取所需信息成为一个共同的难题。搜索引擎的出现使得用户能够在海量信息中轻松地找到目标信息。当前的网络搜索引擎主要以搜索结果排序列表的形式向用户提供准确便捷的信息服务。因此，搜索结果排序则成为搜索引擎技术研究的核心问题。建立用户点击模型，挖掘用户行为数据中蕴含的隐式相关性反馈信息，是改进搜索结果排序的重要进展。
2、早期研究人员基于概率图模型构建点击模型。这种方法使用一系列可观测变量(用户点击)和隐含变量(如用户检验、跳过以及结果相关性等)对用户的搜索过程进行建模。这类模型基于概率图相关理论和假设，能够对真实用户行为喜好进行建模，并且拥有较强的可解释性。但这种方法难以描述和刻画更为复杂的检索场景，而且不同的点击模型需要手动设置不同的依赖集，因此基于概率图的点击模型的表达能力有限。随着深度学习的快速发展和广泛应用，深度神经网络也被应用于点击模型领域。研究人员利用深度神经网络出色的泛化能力构建了许多基于深度神经网络的点击模型，从而挖掘了用户搜索行为背后的复杂模式，有效提升了点击模型的性能。
3、然而，现有广泛使用的点击模型仍存在以下问题尚未得到很好的解决：(1)用户交互序列建模时容易受到噪声数据的影响，使得模型无法准确捕捉用户的真实行为模式和偏好。(2)基于神经网络的点击模型大多只关注用户行为特征，忽略了结果的内容信息对用户点击行为的影响。(3)随着用户特征的多样性增加，对模型特征交
技术实现思路
1、本专利技术实施例提供了一种搜索引擎点击模型的训练方法，用以解决现有技术中点集模型无法准确捕捉用户的真实行为模式和偏好，忽略了结果的内容信息对用户点击行为的影响，在实际生产环境中的实用性低的问题。
2、一方面，本专利技术实施例提供了一种搜索引擎点击模型的训练方法，包括：
3、建立搜索引擎的点击模型；
4、训练所述点击模型得到教师模型；
5、通过知识蒸馏算法训练所述教师模型获得学生模型。
6、在一种可能的实现方式中，所述搜索引擎点击模型包括检验预测模块、主题相关性预测模块、点击上下文编码模块、相关性预测模块和点击预测模块。
7、在一种可能的实现方式中，所述检验预测模块用于预测用户是否会对某个搜索结果进行进一步的检验。
8、在一种可能的实现方式中，所述主题相关性预测模块用于预测查询与其候选文档之间的主题相关性分数。
9、在一种可能的实现方式中，所述点击上下文编码模块用于建模用户的点击行为。
10、在一种可能的实现方式中，所述相关性预测模块用于集成主题相关性预测模块和点击上下文编码模块的输出，计算目标项目的相关性分数。
11、在一种可能的实现方式中，所述点击预测模块用于集成检验预测模块和相关性预测模块的输出，计算目标项目被用户点击的概率。
12、在一种可能的实现方式中，所述训练所述搜索引擎点击模型得到教师模型包括：
13、步骤1、利用所述主题相关性预测模块、所述点击上下文编码模块和所述检验预测模块捕捉高阶隐式交互信息，得到所述主题相关性预测模块、所述点击上下文编码模块和所述检验预测模块的输出；
14、步骤2、集成所述主题相关性预测模块和所述点击上下文编码模块的输出，计算得到目标结果的相关性分数；
15、步骤3、集成所述相关性预测模块和所述检验预测模块的输出，计算得到目标结果被点击的预测概率；
16、步骤4、利用结果实际点击情形和预测点击情形，计算基于交叉熵的点击预测损失loss；
17、步骤5、采用基于误差反向传播的adam优化器优化所述loss并调整所述点击模型的权重参数，将所述adam优化器学习率设置为0.001；
18、步骤6、循环执行步骤1到步骤5到指定步数后得到训练后的所述点击模型；
19、步骤7、将通过步骤6得到的训练后的所述点击模型作为教师模型并计算教师模型的“软标签”；
20、步骤8、利用训练好的所述教师模型计算输出层的预测概率信息。
21、在一种可能的实现方式中，所述通过知识蒸馏算法训练所述教师模型获得学生模型包括：
22、基于所述教师模型输出的所述“软标签”的训练样本对学生模型进行训练，损失函数采用kl散度；
23、利用训练好的学生网络模型进行点击预测。
24、本专利技术中的一种搜索引擎点击模型的训练方法，具有以下优点：
25、(1)通过数据训练准确捕捉用户的真实行为模式和偏好。
26、(2)通过知识蒸馏简化模型结构，增加模型在实际生产环境中的实用性。
本文档来自技高网...【技术保护点】
1.一种搜索引擎点击模型的训练方法，其特征在于，包括：
2.根据权利要求1所述的一种搜索引擎点击模型的训练方法，其特征在于，所述搜索引擎点击模型包括检验预测模块、主题相关性预测模块、点击上下文编码模块、相关性预测模块和点击预测模块。
3.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述检验预测模块用于预测用户是否会对某个搜索结果进行进一步的检验。
4.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述主题相关性预测模块用于预测查询与其候选文档之间的主题相关性分数。
5.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述点击上下文编码模块用于建模用户的点击行为。
6.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述相关性预测模块用于集成主题相关性预测模块和点击上下文编码模块的输出，计算目标项目的相关性分数。
7.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述点击预测模块用于集成检验预测模块和相关性预测模块的输出，计
8.根据权利要求1所述的一种搜索引擎点击模型的训练方法，其特征在于，所述训练所述搜索引擎点击模型得到教师模型包括：
9.根据权利要求1所述的一种搜索引擎点击模型的训练方法，其特征在于，所述通过知识蒸馏算法训练所述教师模型获得学生模型包括：
...【技术特征摘要】
1.一种搜索引擎点击模型的训练方法，其特征在于，包括：
2.根据权利要求1所述的一种搜索引擎点击模型的训练方法，其特征在于，所述搜索引擎点击模型包括检验预测模块、主题相关性预测模块、点击上下文编码模块、相关性预测模块和点击预测模块。
3.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述检验预测模块用于预测用户是否会对某个搜索结果进行进一步的检验。
4.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述主题相关性预测模块用于预测查询与其候选文档之间的主题相关性分数。
5.根据权利要求2所述的一种搜索引擎点击模型的训练方法，其特征在于，所述点击上下文编码模...
【专利技术属性】
技术研发人员：刘建平，王健，王影菲，王萌，初新涛，
申请(专利权)人：北方民族大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。