一种基于特征值补全的推荐系统及方法技术方案

本发明专利技术提出了一种基于特征值补全的推荐系统，包括：输入层模块、隐含层模块、输出层模块，所述输入层模块输入的特征域中的embedding向量依次经过隐含层模块、输出层模块输出，实现推荐，还包括：注意层模块，所述注意层模块用于对输入层模块输入的特征域中已存在的特征值的embedding向量进行转换，以通过特征之间的相互关系补全特征域中的缺失的特征值，并将转换后的embedding向量发送至隐含层模块，本发明专利技术还提出了一种基于特征值补全的推荐方法，提高了推荐系统的冷启动的预测精度。度。度。

【技术实现步骤摘要】
一种基于特征值补全的推荐系统及方法


[0001]本专利技术涉及系统推荐领域，尤其是涉及一种基于特征值补全的推荐系统及方法。

技术介绍

[0002]推荐系统是互联网时代的一种信息检索工具，经过了二十多年的积累和沉淀，推荐系统逐渐成为一门独立的学科在学术研究和业界应用中都取得了很多成果，早期的推荐系统主要应用协同过滤算法(Collaborative Filtering Recommendation)，近年来，随着深度学习技术的发展，推荐系统从协同过滤开始向DNN(Deep Neural Networks，深度神经网络)方向发展，出现了WIDE&DEEP(一种深度学习算法模型)、DEEPFM(一种深度学习算法模型)等一系列推荐系统算法，使得推荐系统的泛化特性取得了进一步的提升。
[0003]但目前的推荐系统仍有许多待解决的问题，包括样本稀疏、样本选择性偏差、冷启动等问题，为了解决这些问题，许多推荐系统引入各种算法来补充评分数据解决样本稀疏、冷启动等问题以改进传统的基于模型的推荐技术性能，一般的传统解决冷启动的方法有引入辅助信息本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于特征值补全的推荐系统，包括：输入层模块、隐含层模块、输出层模块，所述输入层模块输入的特征域中的embedding向量依次经过隐含层模块、输出层模块输出，实现推荐，其特征是，还包括：注意层模块，所述注意层模块用于对输入层模块输入的特征域中已存在的特征值的embedding向量进行转换，以通过特征之间的相互关系补全特征域中的缺失的特征值，并将转换后的embedding向量发送至隐含层模块。2.根据权利要求1所述的一种基于特征值不全的推荐系统，其特征是，所述注意层模块包括第一TRM层子模块以及第二TRM层子模块，所述第一TRM层子模块用于将特征域中已存在的特征值的embedding向量分别经过第一TRM层子模块的第一次转换，将第一次转换后的embedding向量分别发送至第二TRM层子模块，经过经过第二TRM层子模块的第二次转换后，将第二次转换后的embedding向量发送至隐含层模块。3.根据权利要求2所述的一种基于特征值不全的推荐系统，其特征是，第一TRM层子模块的结构与第二TRM层子模块相同，第一TRM层子模块以及第二TRM层子模块均包括依次通信连接的多头自注意力层、第一残差连接和层标准化层、前馈层、第二残差连接和层标准化层。4.根据权利要求3所述的一种基于特征值不全的推荐系统，其特征是，多头自注意力层由多个点积注意力单元构成，每个点积注意力单元为：其中，Q为查询向量，K为键向量，V为值向量，d
k
为键向量的维度，softmax函数为归一化函数；多头自注意力层具体为：MultiHead(Q,K,V)＝Concat(head1,head2,
…
,head
h
)W0其中，MultiHead(Q,K,V)为多头自注意力层，head
i
为第i个点积注意力单元，W
iQ
,W
iK
,W
iV
分别为第i个点积注意力单元中查询向量、键向量、值向量的权重，而Concat(head1,
…
,head
h
)则是多个点积注意力单元之间的连接函数，W0为多头自注意力层的权重。5.根据权利要求3所述的一种基于特征值不全的推荐系统，其特征是，前馈层具体为：FeedForward(x)＝max(0,xW1+b1)W2+b2，其中，x为前馈层的输入，FeedForward(x)为前馈层的输出，W1和W2分别为前馈层中两个线性层网络的权重，b1和b2分别为前馈层中两个线性层网络的偏置。6.根据权利要求3所述的一种基于特征值不全的推荐系统，其特征是，第一残差连接和层标准化层、第二残差连接和层标准化层分别为：
F1(x)＝LayerNorm(x1+MultiHeadAttention(x1))F2(x)＝LayerNorm(x2+FeedForward(x2))其中，F1(x)为第一残差连接和层标准化层输出，F2(x)为第二残差连接和层标准化层输出，x1为多头自注意力层的输入，x2为前馈层的输入，MultiHeadAttention(x1)为多头自注意力层的输出，FeedForward(x2)为前馈层的输出。7.根据权利要求1所述的一种...

【专利技术属性】
技术研发人员：孙红岩，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：