基于元知识学习的信息扩散预测系统及方法技术方案

本发明专利技术属于信息传播领域，提供了一种基于元知识学习的信息扩散预测系统及方法，该信息扩散预测系统包括级联属性构建模块，用于构建用户社交结构特征、用户喜好特征和扩散时间特征组成的级联属性；自适应用户社交关系学习模块，用于学习用户社会关系，获取用户嵌入；自适应时间扩散学习模块，用于学习级联属性和动态级联上下文中的时间关联，获取隐藏状态；信息扩散用户预测模块，用于依据自适应时间扩散学习模块获取的隐藏状态映射到候选用户空间得到下一个激活用户。本发明专利技术信息扩散预测系统及方法，学习信息传播过程中激活用户的级联序列，实现对信息传播过程的动态的用户社交关系和复杂的时间影响的有效建模，提高信息扩散预测任务的准确率。测任务的准确率。

【技术实现步骤摘要】
基于元知识学习的信息扩散预测系统及方法


[0001]本专利技术属于信息传播
，涉及基于深度学习(Deep Learning)的信息扩散(Information Diffusion)和社会网络分析(Social Network Analysis)，尤其涉及一种基于元学习(Meta Learning)的信息扩散预测技术。

技术介绍

[0002]随着在线社交媒体的出现，例如Twitter，Weibo等，丰富了个人的实时社交，使用户能够获得感兴趣的信息内容。用户收到信息内容(例如微博、新闻等)后，往往会通过社交网络进一步进行传播，促进了激活用户(用户参与了信息的评论、点赞、转发等)的信息级联的产生。信息扩散预测的目的是根据当前激活用户的级联序列和其他相关知识(例如：社交网络)来预测未来的信息的传播状态(潜在对该信息感兴趣的用户)。理解信息的传播过程具有极大地经济影响，受到了学术界和工业界的极大关注。信息扩散预测任务在下游的应用中扮演着重要的角色，例如：社会推荐、谣言检测和流行度预测。
[0003]由于复杂的社会关系和时间影响，信息传播过程是一个随时间变化的动态过程，准确地预测信息的传播过程具有极大地挑战。
[0004]信息扩散预测方法主要分为三类：(1)独立级联方法，该方法主要基于独立性假设(每个用户对都具有一个独立的扩散概率)来进行信息扩散预测；然而，该方法过度简化了信息传播过程的复杂性，忽略了用户之间异质性和用户兴趣，导致该方法在现实世界数据集上表现不佳；(2)基于特征的模型，该方法通过探索设计级联结构、时间、用户属性和信息内容等特征进行信息扩散预测；但是，该方法过度依赖于人为构建的特征，并且高质量的特征需要专业的领域知识和额外的计算成本；因此，该方法不容易推广到新的领域；(3)深度学习模型，该方法采用一个自动学习用户动态和相关知识的端到端框架对激活用户的级联序列进行建模；该方法使用序列模型，例如，循环神经网络(Recurrent Neural Network，RNN)、长短期记忆神经网络(Long Short
‑
Term Memory，LSTM)和门控循环单元(Gated Recurrent Unit，GRU)，将扩散过程投射到社会关系上，并使用门控和注意力等特定机制来建模级联序列；该方法还使用基于图模型通过构建各种局部图和全局图来学习扩散结构；然而，现有深度学习模型通常是基于同质性假设并忽略了扩散过程中的多样性的时空关系。
[0005]综上所述，目前信息扩散预测方法由于忽略了用户之间的异质性、用户兴趣以及扩散过程中的多样性的时空关系，从而导致预测效果不理想，且泛化性差。

技术实现思路

[0006]本专利技术目的旨在针对现有技术中存在的上述技术问题，将元学习融入信息扩散预测任务中，设计了一个新颖的基于元知识学习的信息扩散预测系统，来学习信息传播过程中动态用户社交关系和复杂的时间影响，用于信息扩散预测。
[0007]本专利技术的另一目的旨在提供一种基于元知识学习的信息扩散预测方法。
[0008]本专利技术将元学习融入信息扩散预测任务，将每一个信息扩散任务当成一个单独的任务，最后将信息扩散任务转化为新任务适应问题。我们考虑从用户社会网络关系、用户偏好以及时间属性中以一种动态和自适应的方式学习信息级联的元知识，然后设计了一个基于动态参数生成的元学习机制，利用学到元知识生成下游时空模型的模型参数，捕获在信息传播过程中的用户激活序列的多样性时空关联，生成特定于任务的级联表示。最终，利用特定于任务的级联表示达到了预测信息扩散的目的。
[0009]本专利技术提供的基于元知识学习的信息扩散预测系统，其包括：
[0010]级联属性构建模块，用于构建用户社交结构特征、用户喜好特征和扩散时间特征组成的级联属性；
[0011]自适应用户社交关系学习模块，用于学习用户社会关系，获取用户嵌入；所述自适应社会关系获取模块包括第一元知识学习者和自适应图注意网络；所述第一元知识学习者用于基于用户属性和用户隐藏状态，获取第一元知识向量，进而得到自适应图注意网络的动态参数；所述自适应图注意网络，用于基于自适应图注意网络的动态参数，获取每个用户节点的注意力系数，然后利用激活函数对用户隐藏状态进行处理获得用户嵌入；
[0012]自适应时间扩散学习模块，用于学习级联属性和动态级联上下文中的时间关联，获取隐藏状态；所述自适应时间扩散学习模块包括第二元知识学习者和自适应序列模型；所述第二元知识学习者用于从级联属性和动态级联上下文中提取第二元知识向量，进而得到自适应序列模型的动态参数；所述自适应序列模型，用于基于自适应序列模型的动态参数，获取隐藏状态；
[0013]信息扩散用户预测模块，用于依据自适应时间扩散学习模块获取的隐藏状态映射到候选用户空间得到下一个激活用户。
[0014]上述基于元知识学习的信息扩散预测系统，所述级联属性构建模块包括社交结构特征构建模块、用户喜好特征构建模块和扩散时间特征构建模块；
[0015]所述社交结构特征构建模块，基于用户社交网络和用户，通过最大化观察到的邻域的对数概率，获取用户的社会结构特征；
[0016]所述用户喜好特征构件模块，基于用户与物品交互图，使用图卷积神经网络，获取用户喜好特征；
[0017]所述扩散时间特征构建模块，通过连续时间编码器，将用户激活时间戳映射到向量空间，通过显式表示时间特征，获取时间嵌入表示，即扩散时间特征。
[0018]上述基于元知识学习的信息扩散预测系统，所述用户属性包括用户社会结构特征和用户喜好特征；所述自适应图注意网络的动态参数包括自适应图注意网络的动态权重和用于控制用户隐藏状态的参数。
[0019]上述基于元知识学习的信息扩散预测系统，所述第一元知识学习者，将用户社会结构特征、用户喜好特征和用户隐藏状态拼接后输入全连接层中，得到第一元知识向量：
[0020][0021][0022]其中，分别表示用户u
i
、u
j
的第一元知识向量，||表示拼接操作，表示用户u
i
的动态权重，γ
ij
和β
ij
表示用于控制用户隐藏状态的两个参数，σ1表示LeakyRelu
激活函数。
[0023]所述自适应图注意网络的注意力分数定义为：
[0024][0025]其中，是一个可学习的权重向量，
⊙
表示逐元素乘积操作，
[0026]所述注意力分数使用softmax函数进行归一化：
[0027][0028]用户u
i
的嵌入表示为：
[0029][0030]所有用户的嵌入表示构成用户嵌入矩阵
[0031]上述基于元知识学习的信息扩散预测系统，所述自适应序列模型为自适应循环神经网络、自适应长短期记忆神经网络或自适应门控循环单元。
[0032]上述基于元知识学习的信息扩散预测系统，所述第二元知识学习者为时间感知的多头注意本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于元知识学习的信息扩散预测系统，其特征在于，包括：级联属性构建模块，用于构建用户社交结构特征、用户喜好特征和扩散时间特征组成的级联属性；自适应用户社交关系学习模块，用于学习用户社会关系，获取用户嵌入；所述自适应社会关系获取模块包括第一元知识学习者和自适应图注意网络；所述第一元知识学习者用于基于用户属性和用户隐藏状态，获取第一元知识向量，进而得到自适应图注意网络的动态参数；所述自适应图注意网络，用于基于自适应图注意网络的动态参数，获取每个用户节点的注意力系数，然后利用激活函数对用户隐藏状态进行处理获得用户嵌入；自适应时间扩散学习模块，用于学习级联属性和动态级联上下文中的时间关联，获取隐藏状态；所述自适应时间扩散学习模块包括第二元知识学习者和自适应序列模型；所述第二元知识学习者用于从级联属性和动态级联上下文中提取第二元知识向量，进而得到自适应序列模型的动态参数；所述自适应序列模型，用于基于自适应序列模型的动态参数，获取隐藏状态；信息扩散用户预测模块，用于依据自适应时间扩散学习模块获取的隐藏状态映射到候选用户空间得到下一个激活用户。2.根据权利要求1所述的基于元知识学习的信息扩散预测系统，其特征在于，所述级联属性构建模块包括社交结构特征构建模块、用户喜好特征构建模块和扩散时间特征构建模块；所述社交结构特征构建模块，基于用户社交网络和用户，通过最大化观察到的邻域的对数概率，获取用户的社会结构特征；所述用户喜好特征构件模块，基于用户与物品交互图，使用图卷积神经网络，获取用户喜好特征；所述扩散时间特征构建模块，通过连续时间编码器，将用户激活时间戳映射到向量空间，通过显式表示时间特征，获取时间嵌入表示，即扩散时间特征。3.根据权利要求1或2所述的基于元知识学习的信息扩散预测系统，其特征在于，所述用户属性包括用户社会结构特征和用户喜好特征；所述自适应图注意网络的动态参数包括自适应图注意网络的动态权重和用于控制用户隐藏状态的参数。4.根据权利要求3所述的基于元知识学习的信息扩散预测系统，其特征在于，所述第一元知识学习者，将用户社会结构特征、用户喜好特征和用户隐藏状态拼接后输入全连接层中，得到第一元知识向量：中，得到第一元知识向量：其中，分别表示用户u
i
、u
j
的第一元知识向量，||表示拼接操作，表示用户u
i
的动态权重，γ
ij
和β
ij
表示用于控制用户隐藏状态的两个参数，σ1表示LeakyRelu激活函数；所述自适应图注意网络的注意力分数定义为：
其中，是一个可学习的权重向量，
⊙
表示逐元素乘积操作，所述注意力分数使用softmax函数进行归一化：用户u
i
的嵌入表示为：所有用户的嵌入表示构成用户嵌入矩阵5.根据权利要求3所述的基于元知识学习的信息扩散预测系统，其特征在于，所述自适应序列模型为自适应循环神经网络、自适应长短期记忆神经网络或自适应门控循环单元。6.根据权利要求5所述的基于元知识学习的信息扩散预测系统，其特征在于，所述第二元知识学习者为时间感知的多头注意力模块，对于用户u
k
，利用级联属性和用户嵌入融合的元知识生成在时间t
k

【专利技术属性】
技术研发人员：周帆，程章桃，肖哲，徐增，钟婷，
申请(专利权)人：中国电子科技集团公司第五十四研究所喀什地区电子信息产业技术研究院，
类型：发明
国别省市：