基于级联间关系的信息传播预测系统技术方案

本发明专利技术涉及一种基于级联间关系的信息传播预测系统，包括：异质图卷积模块，用于获取异质图的网络节点特征向量；用户注意力模块，用于利用注意力机制对异质图卷积模块得到的网络节点特征向量进行处理，对用户间的内在关系进行权重的分配，得到新的特征向量；级联间关系图卷积模块，用于从级联图中获取级联间关系；时间衰减网络模块，用于将时间衰减信息引入到级联的特征表示中；多头自注意力模块，用于调整带有时间衰减信息的级联特征权重，得到最终的级联表示；信息传播预测输出模块，用于利用最终的级联表示计算得到下一时间节点中各用户节点的概率分布。该系统有利于提高信息级联预测的效果。级联预测的效果。级联预测的效果。

【技术实现步骤摘要】
基于级联间关系的信息传播预测系统


[0001]本专利技术涉及人机对话
，尤其涉及一种基于级联间关系的信息传播预测系统。

技术介绍

[0002]信息级联预测旨在对社交媒体中产生的用户关系与用户级联扩散序列进行分析。根据信息级联预测方法所针对的目标不同，可以分为宏观信息级联预测与微观信息级联预测。前者主要利用社交媒体中的用户关系图与用户扩散序列进行一段时间之后最终级联增量大小的预测；而后者则更侧重于用户级别的建模，其主要目的是利用社交媒体中的用户关系图与用户扩散序列预测后续时间节点被激活的网络节点的概率。本专利技术主要侧重于微观级别的信息级联预测。
[0003]信息级联预测研究方法可以分为两类：传统信息级联预测方法和基于深度学习的信息级联预测方法。
[0004]传统信息级联预测方法主要分为以下三类：1)基于特征建模的方法；基于特征的方法主要从原始数据中提取特征，包括用户属性、用户内容、时间特征等，并利用机器学习方法进行预测。由于这些特征的获得往往需要极高的人力、物力成本，使其难以推广。2)基于生成建模的方法。基于生成的方法仅仅对每个消息的传播过程进行建模，而忽略了信息传播过程中信息级联所隐含的流行度信息，导致预测模型的可解释性较差。3)基于扩散模型的方法。基于扩散的方法在表征信息的扩散过程中要优于前两种方式，但其很大程度上取决于基础的扩散模型，因此在较为庞大的网络中表现较差。
[0005]目前基于深度学习的信息级联预测方法可以分为两类：基于扩散序列的信息级联预测方法和基于拓扑结构的信息级联预测方法。1)基于扩散序列的信息级联预测方法旨在根据给定的扩散序列进行信息级联预测。先前的工作假设在信息扩散过程中存在一先验扩散模型，进而对信息扩散进行预测。例如线性阈值模型或者独立的级联模型。虽然其成功捕捉了用户之间存在的隐形关系，但其方法的有效性在很大程度上取决于假设的先验扩散模型，而这在现实世界中很难进行验证。随着神经网络模型的发展，研究人员利用循环神经网络构建信息级联预测模型，从而对级联扩散序列中的路径表示进行自适应学习，捕获信息级联中的序列特征，以此进行信息级联的预测，从而摆脱了假设的基础扩散模型。大部分基于扩散序列的信息级联预测方法都将级联预测任务视为序列预测任务，按照顺序预测扩散用户，并探索历史扩散序列对未来扩散的影响。但是对于用户间的社交网络关系结构考虑不足，导致在识别和预测信息流的效果上表现不佳。2)基于拓扑结构的信息级联预测方法的灵感来自于图像以及文本在深度学习方面的应用。基于拓扑结构的信息级联预测方法认为在现实生活中，人与人之间会存在一些相同的兴趣爱好，如果某人转发或者关注某一类新闻或者推文，则他的朋友转发这类新闻或者推文的概率将会增高。基于这一假设，研究者们利用图卷积网络将用户社交关系图中的节点结构信息与其本身携带的信息一同纳入模型的考虑当中，使得模型的拟合泛化能力有了大幅度的提高。对于拓扑图中相似的节点，此
方法将会生成接近的特征向量表示，以此来表示用户之间具有相类似兴趣、爱好等。但由于图神经网络对于时间顺序特征的敏感程度较低，因此在此基础上引入了循环神经网络来捕捉信息级联的时序结构特征。但是此方法忽略了信息传播过程中其他信息对当前扩散路径的影响，无法捕获全局的转发关系，因此难以对扩散过程中的复杂性进行建模。

技术实现思路

[0006]本专利技术的目的在于提供一种基于级联间关系的信息传播预测系统，该系统有利于提高信息级联预测的效果。
[0007]为实现上述目的，本专利技术采用的技术方案是：一种基于级联间关系的信息传播预测系统，包括：
[0008]异质图卷积模块，用于获取异质图的网络节点特征向量；
[0009]用户注意力模块，用于利用注意力机制对异质图卷积模块得到的网络节点特征向量进行处理，对用户间的内在关系进行权重的分配，得到新的特征向量；
[0010]级联间关系图卷积模块，用于从级联图中获取级联间关系；
[0011]时间衰减网络模块，用于将时间衰减信息引入到级联的特征表示中；
[0012]多头自注意力模块，用于调整带有时间衰减信息的级联特征权重，得到最终的级联表示；
[0013]信息传播预测输出模块，用于利用最终的级联表示计算得到下一时间节点中各用户节点的概率分布。
[0014]进一步地，利用用户社交关系图和用户社交行为图构建异质图，所述异质图卷积模块聚合异质图的网络节点特征向量，并在后续训练过程中进行迭代操作，逐步更新网络节点特征。
[0015]进一步地，所述用户注意力模块利用注意力机制对异质图卷积模块得到的网络节点特征向量进行处理，对用户社交关系和用户行为关系的重要性权重进行重新分配，捕获用户与用户之间存在的内在关系，从而得到新的特征向量；用户集合U中的每一个用户u
i
与其邻居用户u
j
∈{u1,u2,u3,
…
,u
i
‑1}之间的注意力得分的计算公式如下：
[0016][0017]其中，x
i
和x
j
表示经过异质图卷积模块学习后得到的特征向量，β
ji
为用户u
i
与用户u
j
之间的关系得分，<,>表示向量之间的内积操作，W
t
表示当前目标用户的变换矩阵，W
c
表示当前目标用户的邻居用户的变换矩阵，W
t
和W
c
在预测不同的级联过程中将用户之间的合作特征关系进行区分；
[0018]于是，目标用户u
i
经过用户注意力模块之后得到代表用户与其邻居节点之间关系的特征表示向量其计算公式如下：
[0019][0020]然后，将得到的特征向量与经过异质图卷积模块学习后得到的特征向量进行拼
接，再通过一全连接层调整权重大小，得到用户u
i
的向量表示：
[0021][0022]h
i
＝σ(h
i
W
h
+b
h
）
[0023]其中，concat表示拼接操作，W
h
和b
h
为训练的参数矩阵，σ为激活函数。
[0024]进一步地，所述级联间关系图卷积模块从级联图中抽取级联间关系，获取在传播过程中其他扩散级联对当前级联的影响，从而构建级联关系图；然后通过图卷积的方法聚合级联关系图中的网络节点，得到一额外节点表示，将其与用户注意力模块得到的特征向量相融合，得到带有级联间关系的特征向量。
[0025]进一步地，所述时间衰减网络模块根据级联中的时间节点信息获取时间因素对用户感染的影响；首先将级联中各节点受感染的时间间隔转换为一系列one
‑
hot向量，再通过全连接层对时间间隔进行权重分配，获得时间节点对用户感染的影响力权重因子，最后通过BiLSTM获取历史用户的转发时间信息对当前本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于级联间关系的信息传播预测系统，其特征在于，包括：异质图卷积模块，用于获取异质图的网络节点特征向量；用户注意力模块，用于利用注意力机制对异质图卷积模块得到的网络节点特征向量进行处理，对用户间的内在关系进行权重的分配，得到新的特征向量；级联间关系图卷积模块，用于从级联图中获取级联间关系；时间衰减网络模块，用于将时间衰减信息引入到级联的特征表示中；多头自注意力模块，用于调整带有时间衰减信息的级联特征权重，得到最终的级联表示；信息传播预测输出模块，用于利用最终的级联表示计算得到下一时间节点中各用户节点的概率分布。2.根据权利要求1所述的基于级联间关系的信息传播预测系统，其特征在于，利用用户社交关系图和用户社交行为图构建异质图，所述异质图卷积模块聚合异质图的网络节点特征向量，并在后续训练过程中进行迭代操作，逐步更新网络节点特征。3.根据权利要求1所述的基于级联间关系的信息传播预测系统，其特征在于，所述用户注意力模块利用注意力机制对异质图卷积模块得到的网络节点特征向量进行处理，对用户社交关系和用户行为关系的重要性权重进行重新分配，捕获用户与用户之间存在的内在关系，从而得到新的特征向量；用户集合U中的每一个用户u
i
与其邻居用户u
j
∈{u1,u2,u3,
…
,u
i
‑1}之间的注意力得分的计算公式如下：其中，x
i
和x
j
表示经过异质图卷积模块学习后得到的特征向量，β
ji
为用户u
i
与用户u
j
之间的关系得分，<,>表示向量之间的内积操作，W
t
表示当前目标用户的变换矩阵，W
c
表示当前目标用户的邻居用户的变换矩阵，W
t
和W
c
在预测不同的级联过程中将用户之间的合作特征关系进行区分；于是，目标用户u
i
经过用户注意力模块之后得到代表用户与其邻居节点之间关系的特征表示向量其计算公式如下：然后，将得到的特征向量与经过异质图卷积模块学习后得到的特征向量进行拼接，再通过一全连接层调整权重大小，得到用户u
i
的向量表示：h
i
＝σ(h
′
i
W
h
+b
h
)其中，concat表示拼接操作，W
h
和b
h
为训练的参数矩阵，σ为激活函数。4.根据权利要求1所述的基于级联间关系的信息传播预测系统，其特征在于，所述级联间关系图卷积模块从级联图中抽取级联间关系，获取在传播过程中其他扩散级联对当前级联的影响，从而构建级联关系图；然后通过图卷积的方法聚合级联关系图中的网络节点，得
到一额外节点表示，将其与用户注意力模块得到的特征向量相融合，得到带有级联间关系的特征向量。5.根据权利要求1所述的基于级联间关系的信息传播预测系统，其特征在于，所述时间衰减网络模块根据级联中的时间节点信息获取时间因素对用户感染的影响；首先将级联中各节点受感染的时间间隔转换为一系列one
‑
hot向量，再通...

【专利技术属性】
技术研发人员：廖祥文，杨黄涛，陈志豪，陈泓敏，高航，
申请(专利权)人：福州大学，
类型：发明
国别省市：