一种基于协同过滤与深度学习的多注意力推荐方法技术

本发明专利技术涉及一种基于协同过滤与深度学习的多注意力推荐方法，属于自然语言处理中的推荐算法领域。本发明专利技术包括：输入层，词嵌入层，局部上下文注意力层，多头注意力融合层，相似注意力层，融合决策层。输入层将用户信息文本进行文本处理作为词嵌入层的输入，词嵌入层将数据转化为低维稠密的词向量数据，局部上下文注意力层挖掘向量局部特征与上下文特征，多头注意力融合层利用协同过滤中拆分的评分隐向量作为key融入多头注意力，挖掘浅层的评分向量与评论向量之间深层关联特征，相似注意力层运用欧式距离计算用户与物品之间的相似得分，融合决策层将训练的用户特征与评分特征利用FM模型特征组合的能力，提高模型的对用户评分预测效果。测效果。测效果。

【技术实现步骤摘要】
一种基于协同过滤与深度学习的多注意力推荐方法


[0001]本专利技术涉及一种基于协同过滤与深度学习的多注意力推荐方法，属于自然语言处理中的推荐算法领域。

技术介绍

[0002]互联网高速发展，衍生了海量的数据，我们已经进入了一个信息爆炸的时代，每时每刻都有海量信息产生，然而这些信息并不全是个人所关心的，用户从大量的信息中寻找对自己有用的信息也变得越来越困难。另一方面，信息的生产方也在绞尽脑汁的把用户感兴趣的信息送到用户面前，每个人的兴趣又不尽相同，所以可以实现千人千面的推荐系统应运而生。其中基于协同过滤的传统的机器学习方法以及基于深度学习的推荐算法不断被推出，但基于协同过滤的评分模型由于数据的稀疏性与冷启动问题一直严重限制了其推荐效果。诸多研究利用深度模型去挖掘评论文本中的抽象特征，虽取得推荐性能的提升，却忽略了矩阵分解的浅层隐向量特征。如何充分挖掘评论与评分矩阵的特征的以及结合协同过滤算法于深度学习算法的问题迫待解决。

技术实现思路

[0003]本专利技术要解决的技术问题是：提供一种算法模型，解决评分模型被数据的稀疏性制约性能本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于协同过滤与深度学习的多注意力推荐方法，其特征在于：由六个结构构成，分别是：输入层，词嵌入层，局部上下文注意力层，多头注意力融合层，相似注意力层，融合决策层，具体步骤如下：第一步：采用Amazon 5
‑
core数据集作为模型的训练集，在输入层中，将训练集做特征提取预处理操作并拆分为用户物品评分矩阵和评论矩阵；第二步：在词嵌入层采用包含传统机器学习的协同过滤模型将用户物品评分矩阵分解为用户以及物品隐向量矩阵，并使用词向量模型将评论数据转化为更易处理的低维稠密的词向量数据；第三步：运用CNN卷积神经网络与全连接网络捕捉词向量局部与全局特征；第四步：运用多头注意力挖掘评分隐向量与评论向量的多维关系；第五步：运用欧式距离法计算用户与物品的交互关系；第六步：运用Softmax激活归一化，后将FM特征组合特征后输入损失函数进行回归训练。2.根据权利要求1所述的一种基于协同过滤与深度学习的多注意力推荐方法，其特征在于：所述第一步的输入层是对按比例分割的训练集的文本做预处理和数据清洗，以及数据的分类处理。3.根据权利要求2所述的一种基于协同过滤与深度学习的多注意力推荐方...

【专利技术属性】
技术研发人员：刘鑫强，李卫疆，
申请(专利权)人：昆明理工大学，
类型：发明
国别省市：