一种意图预测模型训练的方法技术

本说明书一个或多个实施例公开了一种意图预测模型训练的方法

【技术实现步骤摘要】
一种意图预测模型训练的方法、装置及电子设备


[0001]本说明书涉及数据处理
，尤其涉及一种意图预测模型训练的方法
、
装置及电子设备
。

技术介绍

[0002]随着互联网的快速发展和消费者行为的不断变化，线上营销在商业领域的重要性日益凸显
。
线上营销已成为企业获取市场份额
、
增加销售和建立品牌形象的关键手段
。
了解用户的交易意图，有助于个性化用户体验
、
吸引新的潜在客户等
。
因此，确定用户的交易意图，是线上营销的重要一环
。
[0003]用户在应用程序内的操作序列，对于判断用户在应用程序的交易意图有很重要的意义
。
因此，目前主要是在保护用户隐私数据的前提下，通过从操作序列中提取出的用户交易特征来预测用户交易意图
。
然而，随着时间的推移，线上营销的内容不断变化，用户的交易意图也会不断变化，已有的预测用户真实交易意图的方法的准确率会急剧下降
。
因此，目前亟需提供一种更优的意图预测模型训练的方案
。

技术实现思路

[0004]本说明书实施例提供一种意图预测模型训练的方法
、
装置及电子设备，以提供一种符合线上营销相关人员预期的意图预测模型训练方案
。
[0005]第一方面，本说明书一个或多个实施例提供一种意图预测模型训练的方法，包括：从使用第一训练数据训练好的第一预测模型中，提取用户操作特征，所述第一训练数据包括在多个第一时间段内
、
由用户在各个操作节点的操作数据构成的第一历史操作序列；将所述用户操作特征输入第二预测模型，得到用户在所述第一历史操作序列中的预设操作节点的预测操作数据，所述第二预测模型中的预测标签根据用户在预设时间段内的操作数据确定；基于所述预测操作数据与用户在所述预设操作节点的实际操作数据的匹配程度，确定对意图预测模型进行训练的训练策略，所述意图预测模型是将所述第一预测模型中的特征提取模块与所述第二预测模型进行组合得到的模型；根据所述训练策略对所述意图预测模型进行训练
。
[0006]第二方面，本说明书实施例提供了一种意图预测模型训练的装置，包括：从使用第一训练数据训练好的第一预测模型中，提取用户操作特征，所述第一训练数据包括在多个第一时间段内
、
由用户在各个操作节点的操作数据构成的第一历史操作序列；将所述用户操作特征输入第二预测模型，得到用户在所述第一历史操作序列中的预设操作节点的预测操作数据，所述第二预测模型中的预测标签根据用户在预设时间段内的操作数据确定；基于所述预测操作数据与用户在所述预设操作节点的实际操作数据的匹配程度，确定对意图预测模型进行训练的训练策略，所述意图预测模型是将所述第一预测模型中的特征提取模块与所述第二预测模型进行组合得到的模型；根据所述训练策略对所述意图预测模型进行训练
。
[0007]第三方面，本申请实施例提供了一种电子设备，该电子设备包括：处理器，以及被安排成存储计算机可执行指令的存储器，在所述可执行指令被执行时，能够使得所述处理器：从使用第一训练数据训练好的第一预测模型中，提取用户操作特征，所述第一训练数据包括在多个第一时间段内
、
由用户在各个操作节点的操作数据构成的第一历史操作序列；将所述用户操作特征输入第二预测模型，得到用户在所述第一历史操作序列中的预设操作节点的预测操作数据，所述第二预测模型中的预测标签根据用户在预设时间段内的操作数据确定；基于所述预测操作数据与用户在所述预设操作节点的实际操作数据的匹配程度，确定对意图预测模型进行训练的训练策略，所述意图预测模型是将所述第一预测模型中的特征提取模块与所述第二预测模型进行组合得到的模型；根据所述训练策略对所述意图预测模型进行训练
。
[0008]第四方面，本说明书实施例提供一种存储介质，用于存储计算机程序，所述计算机程序能够被处理器执行以实现以下流程：从使用第一训练数据训练好的第一预测模型中，提取用户操作特征，所述第一训练数据包括在多个第一时间段内
、
由用户在各个操作节点的操作数据构成的第一历史操作序列；将所述用户操作特征输入第二预测模型，得到用户在所述第一历史操作序列中的预设操作节点的预测操作数据，所述第二预测模型中的预测标签根据用户在预设时间段内的操作数据确定；基于所述预测操作数据与用户在所述预设操作节点的实际操作数据的匹配程度，确定对意图预测模型进行训练的训练策略，所述意图预测模型是将所述第一预测模型中的特征提取模块与所述第二预测模型进行组合得到的模型；根据所述训练策略对所述意图预测模型进行训练
。
附图说明
[0009]为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书一个或多个实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图
。
[0010]图1是根据本说明书一实施例的一种意图预测模型训练方法的示意性流程图
。
[0011]图2是根据本说明书一实施例的一种意图预测模型训练的方法的应用场景示意图
。
[0012]图3示出了本说明书一实施例的对第一预测模型进行训练的流程示意图
。
[0013]图4是根据本说明书一实施例的一种文本类特征的编码器的结构示意图
。
[0014]图5是根据本说明书一实施例的一种结构化类特征的编码器的结构示意图
[0015]图6是根据本说明书一实施例的一种意图预测模型训练的装置的结构示意图
。
[0016]图7是根据本说明书一实施例的一种电子设备的结构示意图
。
具体实施方式
[0017]下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚
、
完整地描述，显然，所描述的实施例是本说明书一部分实施例，而不是全部的实施例
。
基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围
。
[0018]本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象，而不用于描述特定的顺序或先后次序
。
应该理解这样使用的数据在适当情况下可以互换，以便本说明书的实施例能够以除了在这里图示或描述的那些以外的顺序实施，且“第一”、“第二”等所区分的对象通常为一类，并不限定对象的个数，例如第一对象可以是一个，也可以是多个
。
此外，说明书以及权利要求中“和
/
或”表示所连接对象的至少其中之一，字符“/”，一般表示前后关联对象是一种“或”的关系
。
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种意图预测模型训练的方法，包括：从使用第一训练数据训练好的第一预测模型中，提取用户操作特征，所述第一训练数据包括在多个第一时间段内
、
由用户在各个操作节点的操作数据构成的第一历史操作序列；将所述用户操作特征输入第二预测模型，得到用户在所述第一历史操作序列中的预设操作节点的预测操作数据，所述第二预测模型中的预测标签根据用户在预设时间段内的操作数据确定；基于所述预测操作数据与用户在所述预设操作节点的实际操作数据的匹配程度，确定对意图预测模型进行训练的训练策略，所述意图预测模型是将所述第一预测模型中的特征提取模块与所述第二预测模型进行组合得到的模型；根据所述训练策略对所述意图预测模型进行训练
。2.
根据权利要求1所述的方法，所述基于所述预测操作数据与用户在所述预设操作节点的实际操作数据的匹配程度，确定对意图预测模型进行训练的训练策略，包括：在所述预设操作数据与所述实际操作数据的差异在预设差异范围的情况下，使用所述用户操作特征对所述意图预测模型中的第二预测模型进行训练；在所述预设操作数据与所述实际操作数据的差异超出所述预设差异范围的情况下，使用第二训练数据对所述意图预测模型中的特征提取模块和第二预测模型同时进行训练，所述第二训练数据包括用户在第二时间段内
、
由用户各个操作节点的操作数据构成的第二历史操作序列
。3.
根据权利要求1所述的方法，所述第一预测模型的训练过程，包括：对所述第一历史操作序列中至少一个操作节点对应的操作数据进行遮盖，得到遮盖后的第一历史操作序列；将所述遮盖后的第一历史操作序列输入所述第一预测模型，得到用户在所述至少一个操作节点对应的预测操作数据；基于所述至少一个操作节点对应的预测操作数据与用户在所述至少一个操作节点对应的实际操作数据的差异，对所述第一预测模型进行训练
。4.
根据权利要求3所述的方法，所述将所述遮盖后的第一历史操作序列输入所述第一预测模型，得到用户在所述至少一个操作节点对应的预测操作数据，包括：使用所述特征提取模块对所述遮盖后的第一历史操作序列进行编码，得到所述遮盖后的第一历史操作序列中各个操作节点对应的初始向量；对所述初始向量进行特征交叉编码，得到中间向量；基于所述中间向量，对用户在所述至少一个操作节点的操作数据进行预测，得到所述预测操作数据
。5.
根据权利要求4所述的方法，所述使用所述特征提取模块对所述遮盖后的第一历史操作序列进行编码，得到所述遮盖后的第一历史操作序列中各个操作节点对应的初始向量，包括：使用所述特征提取模块，将所述遮盖后的第一历史操作序列中各个操作节点的操作数据按照数据类型分别映射到高维特征空间，得到所述遮盖后的第一历史操作序列中各个操作节点对应的各个数据类型的高维向量；
将所述遮盖后的历史操作序列中同一操作节点对应的各个数据类型的高维向量进行连接处理，得到所述初始向量
。6.
根据权利要求5所述的方法，所述使用所述特征提取模块，将所述遮盖后的第一历史操作序列中各个操作节点的操作数据按照数据类型分别映射到高维特征空间，得到所述遮盖后的第一历史操作序列中各个操作节点对应的各个数据类型的高维向量，包括：在所述遮盖后的第一历史操作序列中各个...

【专利技术属性】
技术研发人员：陆奕强，刘健，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：