一种基于CNN和BP神经网络的推荐方法技术

一种基于CNN和BP神经网络的推荐方法，主要内容是通过目标用户的一系列行为来估算目标用户的爱好，将用户可能喜欢的项目序列推荐给目标用户。在推荐模型中，核心的内容是基于评分预测的模型。通过本发明专利技术提出的新模型CNN‑BP来预测用户的下一个消费行为，先是使用卷积神经网络CNN对行为序列进行分析，得出每种未观看项目的基本概率；然后使用逆向传播神经网络BP计算最终概率；最后，依据最终概率集选出前N项，并将这前N项项目作为目标用户下次最可能观看的项目推荐给用户。本方法是以电影的推荐模型为例，实验结果表明，CNN‑BP模型可以更准确地预测目标用户的下一次观看行为，并为推荐系统提供了更优异的性能。

【技术实现步骤摘要】
一种基于CNN和BP神经网络的推荐方法
本专利技术涉及推荐模型，具体提供一种基于CNN和BP神经网络的推荐方法。
技术介绍
针对推荐系统面临的各种问题，在以往各种传统的推荐算法中，已经有了很多的研究成果并被各领域广泛的应用，比如基于内容的推荐算法、基于知识的推荐算法和混合推荐算法等等。近年来，深度学习在自然语言处理和图像处理上都有着很好的效果，主要有卷积神经网络CNN、递归神经网络和BP神经网络等，进而有许多学者将神经网络应用在推荐系统中。在国外，FalkJ[1]等人提出一种基于前馈神经网络的推荐系统，最后统计和评估推荐系统的性能。Netflix[2]等人提出一种基于深度神经网络DNN的视频推荐系统，该模型的输入为用户观看的历史行为和用户的信息，然后利用多层的DNN网络模型来学习，最后直接进行Top-N推荐。而MuratAykanat[3]等人则是利用卷积神经网络CNN与支持向量机SVW来实现精确的分类。在国内，练绪宝[4]提出了一种基于卷积神经网络CNN与排序学习的推荐系统，在电商平台上，采用卷积神经网络CNN来预测用户下次需要购买的商品，相关实验表明了该方法在一定程度上对推荐的质量做出了贡献。吴烯[5]则是提出了一种利用卷积神经网络CNN的原理来达到匹配的推荐，主要目的是在精度不下降的前提下，尽可能的减少算法的时间和提高算法的准确度，并将该方法和传统的算法进行分析与比较。孙倩[6]研究了将神经网络应用在推荐算法中，主要是针对如何缓解数据稀疏性问题，因此在评分预测时引入了神经网络，并依据用户评分的共有部分来找到用户的最近邻居集，评分矩阵的稀疏性得到了缓减。在整理研究现状时发现，随着日益增长的信息资源，传统的推荐系统是不能够完全的应对，而在对深度学习的不断研究后，其已经在图像、语音和文本分类等领域有了突破性的成果。由于神经网络具有鲁棒性、学习能力、非线性和并行性等特点，以及大量学者的研究实践都已经说明神经网络可以应用于推荐系统中，且神经网络具有更好的效果。但是，基于深度学习的推荐系统仍然主要是针对用户的评分行为，并主要通过单一的神经网络来训练学习。所以，本方法加入了更全面的用户行为，然后不再使用单一的模型，而是采用了两个模型的融合，最后用训练好的新模型进行电影的评分预测。传统预测评分的计算公式有着一定的局限性，致使推荐的精度不是很准确，所以本方法提出了一个新模型来提升推荐的精度。主要研究的内容有：首先，在上述三种历史行为的基础上，本方法引入了一个流行元素的当下行为，然后基于这四种行为用CNN模型来训练，将输出的四种概率作为BP模型的输入，最后输出一个最终概率。本方法利用神经网络来对电影进行预测评分，主要是为了提升推荐的精度。[1]MatthiasJüttner,FalkJ，RuckerWM.Aneuralnetworkbasedrecommendationsystemforsolversandpreconditionersforsystemsoflinearequations[C].ElectromagneticFieldComputation，IEEE，2017[2]HidasiB，KaratzoglouA，BaltrunasL，etal.Session-basedRecommendationswithRecurrentNeuralNetworks[J].ComputerScience，2015[3]AykanatM，OzkanK，KurtB，etal.Classificationoflungsoundsusingconvolutionalneuralnetworks[J].EurasipJournalonImage&VideoProcessing，2017，(1)：65[4]练绪宝.基于排序学习和卷积神经网络的推荐算法研究[D].大连理工大学，2016[5]吴烯.基于卷积神经网络的推荐算法[D].华南理工大学，2016[6]孙倩.基于LM-BP神经网络的推荐算法的研究与应用[D].北京交通大学，2016
技术实现思路
本专利技术提出一种新的评分预测模型，目的是提升推荐的精度。因此在本方法中提出一个新模型CNN-BP来预测用户的下一个观看行为，然后再为用户推荐预测项目。本方法中先是使用卷积神经网络CNN对用户的四种行为序列进行分析，即用户的主观评分行为、用户客观行为、基于时间的用户偏好行为以及当下流行元素的行为，以至于可以得出每种未观看项目的四种基本概率。然后使用逆向传播神经网络BP来计算对应的最终概率。最后，依据计算出来的最终概率集来选取这其中最高最终概率的前N项项目，并将这前N项项目作为目标用户下次最可能观看的项目，将它们一一推荐给用户。本方法是以电影的推荐模型为例，实验结果表明，CNN-BP模型可以更准确地预测目标用户的下一次观看行为，并为推荐系统提供了更优异的性能。本专利技术提供的基于CNN和BP神经网络的推荐方法主要包括如下关键步骤：第1、用户不同类型行为：第1.1、对初始数据集进行处理，获得用户-用户属性矩阵、用户-项目总评分矩阵和流行元素行为矩阵；第1.2、构建用户偏好矩阵，来表示用户对电影属性的偏好；第2、CNN模型的隐藏层：第2.1、利用卷积层来提取特征；第2.2、利用池化层来压缩特征；第2.3、全连接层；第2.4、CNN网络中过拟合问题；第3、基于CNN网络的评分预测：第3.1、基于CNN网络的评分预测的算法过程；第4、利用BP来获得最终概率：第4.1、最终概率的计算方式。本专利技术的优点和积极效果是：本方法主要设计了一种基于CNN和BP神经网络的推荐系统，该方法是基于两个单独模型进行融合推荐。传统预测评分的计算公式有着一定的局限性，致使推荐的精度不是很理想，所以本方法提出一种新模型来提升推荐的精度。首先，本方法引入了四个不同类型的用户行为，然后基于这四种行为利用CNN模型来训练，将输出的四种初始概率作为BP模型的输入，最后输出一个最终概率。本方法利用神经网络来对电影进行预测评分，主要是为了提升推荐的精度。附图说明图1是CNN-BP模型的流程；图2是CNN模型卷积层中的局部感知；图3是CNN模型卷积层中的参数共享；图4是CNN模型中卷积的过程；图5是CNN模型池化层中最大池化的过程；图6是BP的模型；图7是机器学习和本文方法的对比；图8是传统算法和本文算法的对比。具体实施方式本专利技术设计的方法基于CNN模型和BP模型的，本方法先是通过数据预处理得到用户的四种行为，然后利用不包括流行元素行为的前三种行为进行K-Means聚类，再针对每一个类簇进行神经网络的训练和学习。有关神经网络的选取，本方法是采用了CNN和BP的融合模型，模型内考虑了上述用户的四种行为，先是通过CNN模型的训练得到原始概率，再利用BP模型来得到最终概率，将概率高的前N项电影推荐给用户。实验结果显示了推荐的精度得到了提升，推荐的效果也得到了改善。本专利技术方法主要包括如下关键步骤：第1、基本矩阵：第1.1、通过对初始数据集进行处理，获得用户-用户属性矩阵、用户-项目总评分矩阵和流行元素行为矩阵，分别将其对应的矩阵记为V、F′和N。V的形式如下：其中：k代表用户属性的个数，用户的属性即用户的ID，性别，年龄段，职业等；矩本文档来自技高网...

【技术保护点】
1.一种基于CNN和BP神经网络的推荐方法，其特征在于该方法主要包括如下关键步骤：第1、用户不同类型行为：第1.1、对初始数据集进行处理，获得用户‑用户属性矩阵、用户‑项目总评分矩阵和流行元素行为矩阵；第1.2、构建用户偏好矩阵，来表示用户对电影属性的偏好；第2、CNN模型的隐藏层：第2.1、利用卷积层来提取特征；第2.2、利用池化层来压缩特征；第2.3、全连接层；第2.4、CNN网络中过拟合问题；第3、基于CNN网络的评分预测：第3.1、基于CNN网络的评分预测的算法过程；第4、利用BP来获得最终概率：第4.1、最终概率的计算方式。

【技术特征摘要】
1.一种基于CNN和BP神经网络的推荐方法，其特征在于该方法主要包括如下关键步骤：第1、用户不同类型行为：第1.1、对初始数据集进行处理，获得用户-用户属性矩阵、用户-项目总评分矩阵和流行元素行为矩阵；第1.2、构建用户偏好矩阵，来表示用户对电影属性的偏好；第2、CNN模型的隐藏层：第2.1、利用卷积层来提取特征；第2.2、利用池化层来压缩特征；第2.3、全连接层；第2.4、CNN网络中过拟合问题；第3、基于CNN网络的评分预测：第3.1、基于CNN网络的评分预测的算法过程；第4、利用BP来获得最终概率：第4.1、最终概率的计算方式。2.根据权利要求1所述的基于CNN和BP神经网络的推荐方法，其特征在于：步骤第1.1中所述的用户-用户属性矩阵、用户-项目总评分矩阵和流行元素行为矩阵，分别将其对应的矩阵记为V、F′和N，V的形式如下：其中：k代表用户属性的个数，用户的属性即用户的ID，性别，年龄段，职业等；矩阵里的元素代表了用户ui在其自身的客观特征属性gk上的值；F′的形式如下：其中：矩阵中元素代表了用户ui对观看过且包含了特征属性gk的所有电影的总评分；N的形式如下：其中：是由数字0和1组成的，0代表了电影mj不包含流行元素gk；1代表电影mj包含项目特征属性gk。3.根据权利要求1所述的基于CNN和BP神经网络的推荐方法，其特征在于：步骤第1.2中用户偏好矩阵记为P′，P′的形式如下：其中：矩阵中元素代表了在时间因素下用户ui对项目特征属性gk的偏好程度。4.根据权利要求1所述的基于CNN和BP神经网络的推荐方法，其特征在于：步骤第2.1中包括以下步骤：首先是局部感知；其次是参数共享，利用参数共享来达到参数数量的大量减少，得到有效的特征提取的结果；最后是卷积，用于特征的提取。5.根据权利要求1所述的基于CNN和BP神经网络的推荐方法，其特征在于：步骤第2.3是整合池化后得到的特征，并进行归一化处理，然后输出一个对每种分类情况的概率，最后以此概率为依据进行分类。6.根据权利要求1所述的基于CNN和BP神经网络...

【专利技术属性】
技术研发人员：李文杰，翟星宇，薛花，张德干，
申请(专利权)人：天津理工大学，
类型：发明
国别省市：天津,12