System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种面向在线课程的图神经网络推荐方法和系统技术方案_技高网

一种面向在线课程的图神经网络推荐方法和系统技术方案

技术编号:41260168 阅读:5 留言:0更新日期:2024-05-11 09:18
本发明专利技术公开了一种面向在线课程的图神经网络推荐方法和系统。本发明专利技术通过知识图谱嵌入的方式,解耦实体与关系和模型的输入过程,提高了模型的灵活程度。在推理时,将行为相近的学生表达为极为相似的Embedding向量,缓解了模型推理的压力。将多个学生优化为同一向量表达,配合缓存机制,极大的提升了推荐系统的效率。通过引入交互项因子,前置的MKR模型,极大的提高了模型的表达能力,挖掘了深层次的特征信息。

【技术实现步骤摘要】

本专利技术涉及课程推荐,更具体地,涉及基于图神经网络的在线课程推荐方法和系统。


技术介绍

1、在线课程数据中含有丰富的图结构数据,主要包括学习者的隐式行为数据和显式行为数据。诸如协同过滤等传统的推荐算法普遍无法挖掘学习者之间、学习者与课程之间、课程与课程之间的深层次特征,部分研究人员尝试借助知识图谱、图神经网络、注意力机制等方法针对推荐系统中的节点与关系的特征表达、节点特征聚合、时序特征等问题做了大量的工作,取得一定效果。但是在实际应用上又因为模型过于复杂而很难取得工程上的应用。因此提出具有实际应用价值的优秀在线课程推荐方法尤为重要。

2、在线课程推荐中的图结构呈现着以下特征:学习者实体大量聚集,形成一种簇落结构,在某种情况下可以对多个学习者实体抽象为一个实体来进行推荐。课程实体具备一定的短期序列性,即不同课程实体之间应该维持着合理的时间先后关系。学习者与课程的关系种类较多,例如学习情况、掌握情况和喜爱程度等,无法用单一的正例和负例简单描述学习者和课程的关系。总之,这些特征限制了各种算法模型的表达能力,所以针对这种图结构特征设计合理的算法模型是必要的。

3、随着知识图谱推荐的发展,在线课程领域中运用知识图谱来解决推荐问题的方法层出不穷。部分研究者尝试构建一个课程知识图谱,直接依赖知识图谱进行推荐,但这样做的问题是依托知识图谱做推荐会导致模型的更新成本大、时间长,不利于实际生产环境的推广。伴随着图神经网络的出现,基于图神经网络的方式逐渐成为更好的选择,但图神经网络不会给边附加特征向量,造成了关系特征的丢失。部分研究者为模型加入注意力机制,也让模型拥有了序列推荐的能力,但对于课程领域的短期序列推荐,仍需要进一步设计和图神经网络的耦合方式。总的来讲,知识图谱嵌入对关系表达具有巨大优势,图神经网络对实体节点高维语义的捕捉有巨大优势,注意力机制对课程实体序列化性质的挖掘有巨大优势,如何结合这三大优势到同一个模型中,并提出合理的模型训练与运行方式是本专利技术的重点工作。


技术实现思路

1、针对上述现状,本专利技术的目的在于提供一种面向在线课程的图神经网络推荐方法,同时设计一套合理的模型训练与部署方案。

2、为实现上述目的,本专利技术采用以下技术方案:一种面向在线课程的图神经网络推荐方法,包括如下步骤:

3、步骤s1,根据在线课程以及异构关系网络图,定义学习者即用户实体、课程即物品实体、学习者与课程之间的关系特征;

4、步骤s2,构建基于多任务特征学习的知识图增强推荐模型mkr,用于获得用户向量、物品向量和关系向量;

5、步骤s3,构建图注意力网络模型kgat-fm,将模型mkr得到的用户向量、物品向量和关系向量作为输入,通过模型kgat-fm的反向传播,得到更新后的用户向量u,物品向量v和关系向量r,结合更新后的用户向量u和物品向量v求物品预测评分,根据预测评分进行在线课程的推荐;

6、步骤s4,选取相关评价指标评估模型kgat-fm的推荐效果,通过修改模型超参数的方式对模型kgat-fm进行迭代,得到推荐效果最好的kgat-fm模型。

7、进一步的,关系特征包括基本特征和高维特征两部分,其中基本特征包括如喜欢、收藏、反复观看次数、分享次数,高维特征用兴趣筛选机制描述,一共4项关系;

8、对于兴趣筛选机制,包含用户反馈、用户观看视频时长、用户观看同类型视频的频率和聚合特征4项;

9、(1)用户反馈指用户是否有点赞、收藏操作;

10、定义用户反馈函数g(ux,vx)表示用户ux对物品vx的反馈程度,其中ux代表某一个用户,vx代表某一个物品;

11、

12、(2)用户观看视频时长是为了防止用户因好奇心理而点击观看某些视频然后因不感兴趣又中途退出的情况;

13、定义用户观看视频占总体时长的占比t(ux,vx)表示用户ux对物品vx的观看效果。

14、t(ux,vx)=ux观看时长/vx的总时长

15、(3)用户观看同类型视频的频率是考察用户是否对某一类视频真的感兴趣,并且观看同类型视频的频率的高低可以衡量感兴趣的程度;

16、定义同标签下课程被观看频率r(ux,vx)表示用户ux对物品vx所在分类的兴趣;

17、r(ux,vx)=vx所在分类被观看总数/ux的视频观看总数

18、(4)聚合特征,聚合用户反馈、用户观看视频时长、用户观看同类型视频的频率三种特征的削弱效应,用于在训练过程中削弱用户兴趣的影响,其中a、b、c为0-1的超参数;

19、定义高维特征:

20、w(ux,vx)=-ag(u,v)-bt(u,v)-cr(u,v)

21、并将高维特征分为强兴趣即w<-0.8、中兴趣即-0.8<=w<=-0.4、弱兴趣即w>-0.4三个等级。

22、进一步的,所述mkr模型包括评分预测任务模块和尾实体预测模块,所述评分预测任务模块和尾实体预测模块均包括l个全连接层;

23、两个模块之间通过两个c单元结构进行交互任务,将初始化的用户向量u和物品向量v作为预测任务模块的输入,初始化的头实体向量h和关系向量r作为尾实体预测模块输入,对于头实体向量h的初始化值,直接拷贝初始化的物品向量v。

24、进一步的,评分预测任务模块的处理过程如下;

25、

26、

27、表示u向量经过l个全连接层,表示v向量经过l个全连接层;

28、y=s(ul·ul)=σ(ul·ul)=sigmoid(ul·ul)

29、其中:激活函数σ使用sigmoid函数,y是评分预测的结果,此评分作为前置网络的输出,不影响最终结果,只是适应反向传播而更新u,v的表达:

30、评分预测模块部分的损失函数使用二值交叉熵损失,其中:ytrue是物品的真实标注;

31、recloss=bceloss(σ(ul·vl),ytrue)

32、其中,recloss表示评分预测模块部分的损失函数,bceloss表示二值交叉熵损失。

33、进一步的,预测尾实体任务模块,同样经过全连接层的传播,得到高层的头实体向量h(l)和关系向量r(l):

34、

35、

36、表示h向量经过l个全连接层,表示r向量经过l个全连接层;

37、令h′=h(l)和r′=r(l),对h’和r’进行kge,进而得到尾实体向量t,kge方式选择为transr;

38、t=kge(h′,r′)

39、keg是指基于知识图谱的嵌入,用知识图谱的方式对实体和关系进行向量表示;其中h’代表头实体向量,r’代表关系向量,t代表尾实体向量;

40、transr是指将h’向量和t向量映射到r’向量的空间,然后在r’空间进行如下变换,进而得到本文档来自技高网...

【技术保护点】

1.一种面向在线课程的图神经网络推荐方法,其特征在于,包括如下步骤:

2.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:关系特征包括基本特征和高维特征两部分,其中基本特征包括如喜欢、收藏、反复观看次数、分享次数,高维特征用兴趣筛选机制描述,一共4项关系;

3.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:所述MKR模型包括评分预测任务模块和尾实体预测模块,所述评分预测任务模块和尾实体预测模块均包括L个全连接层;

4.如权利要求3所述的一种面向在线课程的图神经网络推荐方法,其特征在于:评分预测任务模块的处理过程如下;

5.如权利要求3所述的一种面向在线课程的图神经网络推荐方法,其特征在于:预测尾实体任务模块,同样经过全连接层的传播,得到高层的头实体向量h(L)和关系向量r(L):

6.如权利要求3所述的一种面向在线课程的图神经网络推荐方法,其特征在于:C单元结构用于交叉和压缩,具体计算过程如下:

7.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:步骤S3中图注意力网络模型KGAT-FM的具体处理过程如下;

8.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:物品预测评分计算公式如下:

9.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:还包括步骤S5,构建模型KGAT-FM全量训练与增量训练的数据链路;

10.一种面向在线课程的图神经网络推荐系统,其特征在于,包括如下模块:

...

【技术特征摘要】

1.一种面向在线课程的图神经网络推荐方法,其特征在于,包括如下步骤:

2.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:关系特征包括基本特征和高维特征两部分,其中基本特征包括如喜欢、收藏、反复观看次数、分享次数,高维特征用兴趣筛选机制描述,一共4项关系;

3.如权利要求1所述的一种面向在线课程的图神经网络推荐方法,其特征在于:所述mkr模型包括评分预测任务模块和尾实体预测模块,所述评分预测任务模块和尾实体预测模块均包括l个全连接层;

4.如权利要求3所述的一种面向在线课程的图神经网络推荐方法,其特征在于:评分预测任务模块的处理过程如下;

5.如权利要求3所述的一种面向在线课程的图神经网络推荐方法,其特征在于:预测尾实体任务模...

【专利技术属性】
技术研发人员:肖克江方铄朱广杰邱家瑞曾炫宇符志雄彭绍婷
申请(专利权)人:华中师范大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1