一种基于注意力机制的DeepFM模型浏览数据处理的方法及系统技术方案

技术编号:41850411 阅读:16 留言:0更新日期:2024-06-27 18:27
本发明专利技术提供的一种基于注意力机制的DeepFM模型浏览数据处理的方法及系统,解决了电子商务作用平台底层数据关联性弱,用户界面不友好,用户行为存在的差异性的问题。该方法及系统采用因子分解机FM与全连接神经网络MLP两部分联合训练,无需加入人工特征,更易部署;结构简单,复杂度低,两部分共享输入,共享信息,可更精确的训练学习;能更好地学习低维和高维特征之间的交互,能够挖掘用户的潜在兴趣,同时在计算用户兴趣表示向量时引入了注意力机制来计算相应的权重,使能够对不同的候选商品生成自适应的用户兴趣表示向量,更加精准地发觉用户兴趣。本发明专利技术用于DeepFM模型油汽作业平台领域。

【技术实现步骤摘要】

本专利技术涉及deepfm模型油汽作业平台领域,尤其涉及一种基于注意力机制的deepfm模型浏览数据处理的方法及系统。


技术介绍

1、在电子商务中心,海量的商品信息会导致消费者得不到自己想要的商品从而不断流失客源,源于底层数据关联性弱,用户界面不友好等因素,而推荐系统可以根据用户的兴趣特点和购买行为,引导用户发现自己的信息需求,向用户推荐其感兴趣的信息和商品,极大地提升交易成交率。

2、近年来,受深度学习在计算机视觉和自然语言处理中取得成功的启发,基于深度学习的方法被提出用于ctr预测任务。这些深度学习方法遵循相似的嵌入层&mlp范式:首先将大规模稀疏输入特征映射为低维嵌入向量,然后以分组方式将其转换为定长向量,最后将其连接在一起,输入全连接层(也称为多层感知器,mlp),学习特征之间的非线性关系。与常用的逻辑回归模型相比,这些深度学习方法可以减少大量的特征工程工作,大大增强模型能力。deepfm通过结合fm和深度神经网络来更好地学习低维和高维特征之间的交互,但是,没有考虑到对于不同的候选推荐商品而言,用户行为存在的差异性。

...

【技术保护点】

1.一种基于注意力机制的DeepFM模型浏览数据处理的方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的一种基于注意力机制的DeepFM模型浏览数据处理的方法,其特征在于,所述数据集包括用户信息、商品信息、上下文信息和用户实时行为信息;

3.根据权利要求1所述的一种基于注意力机制的DeepFM模型浏览数据处理的方法,其特征在于,所述S2:注意力计算单元根据目标用户的历史行为特征和当前广告的相关性给用户的行为特征赋予相应的权重,得到用户每个行为特征的权重以后,再对用户所有的历史行为特征做加权和,便可以计算出代表用户兴趣的嵌入向量,是指通过注意力计算单...

【技术特征摘要】

1.一种基于注意力机制的deepfm模型浏览数据处理的方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的一种基于注意力机制的deepfm模型浏览数据处理的方法,其特征在于,所述数据集包括用户信息、商品信息、上下文信息和用户实时行为信息;

3.根据权利要求1所述的一种基于注意力机制的deepfm模型浏览数据处理的方法,其特征在于,所述s2:注意力计算单元根据目标用户的历史行为特征和当前广告的相关性给用户的行为特征赋予相应的权重,得到用户每个行为特征的权重以后,再对用户所有的历史行为特征做加权和,便可以计算出代表用户兴趣的嵌入向量,是指通过注意力计算单元得到所述目标用户兴趣的表示向量vu;所述注意力计算单元计算候选商品和所述目标用户历史行为的相关性权重,所述权重大小是代表所述目标用户历史行为对候选推荐商品的影响程度,再通过得到的相关性权重与代表目标用户历史行为的向量做加权求和,得到所述目标用户兴趣的表示向量vu;所述目标用户兴趣的表示向量具体计算过程如下所示:

4.根据权利要求3所述的一种基于注意力机制的deepfm模型浏览数据处理的方法,其特征在于,所述注意力计算单元,是根据所述目标用户的历史行为特征和目标广告相关性给所述目标用户行为特征嵌入层向量加权;

5.根据权利要求4所述的一种基于deepfm模型浏览记录数据处理的方法,其特征在于,所述s3:将所述经过嵌入层得到的嵌入向量,以及经过注意力计算得到的代表用户兴趣的嵌入向量作为因子分解机fm层和全连接神经网络mlp层共同输入,因子分解机fm层输出低阶特征交互到的结果,全连接神经网络mlp层输出高阶特征交互的结果;是将所有的嵌入向量和数值型信息进行拼接,输入到因子分解机和全连接神经网络;将所述因子分解机和所述全连接网络的输出通过所述输出单元得到ctr的预测值;将经过嵌入层...

【专利技术属性】
技术研发人员:苏兴华王运功范玉岳詹胜王立宏刘月月薛鹏王建胜李卫刘峰何以晴康芳玲胡刚王嫔魏洁叶红卫
申请(专利权)人:中国石油天然气集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1