基于常微分方程和超网络的事件预测方法技术

本发明专利技术公开了一种基于常微分方程和超网络的事件预测方法，旨在克服现有技术对节点间的持续相互作用以及节点嵌入通道间的交互考虑不足、事件独特背景信息对事件预测任务的作用等问题，该方法的步骤为：1.由数据处理模块对数据集中所有事件数据进行处理；2.获取并处理同一时间发生的所有事件的相关数据；3.利用基于图神经网络的常微分方程建模节点间的信息传递以及节点嵌入通道间的交互；4.利用超网络来捕捉事件的个体特征；5.利用消息传递机制建模网络结构变化时用户嵌入的瞬时变化；6.对数据集中每一个时间点进行步骤2

【技术实现步骤摘要】
基于常微分方程和超网络的事件预测方法


[0001]本专利技术涉及一种链接预测领域的事件预测方法，更确切地说，本专利技术涉及一种基于常微分方程和超网络的事件预测方法。

技术介绍

[0002]社交网络的快速发展促进了用户间的信息传播和交互。对用户行为进行分析，挖掘用户行为的演化模式，可以为用户提供更加人性化的服务，同时也可以针对性地引导用户行为，改善网络环境。网络事件可以被看作网络用户间的一次交互。网络事件中包含着丰富的信息，事件预测任务就是利用历史事件预测未来可能会发生的事件，从而对用户行为进行分析。
[0003]目前基于动态图的事件预测的方法主要有两种：一种是将静态的图表示学习方法应用到动态图的多张快照上，然后利用时间序列单元对快照的输出进行处理；一种是对动态图进行连续建模，使用RNN、时序点等方法建模用户嵌入的连续变化轨迹，进而完成事件预测分析。
[0004]虽然，针对事件预测已有一定的研究工作，但仍有许多方面值得探索，主要体现在：
[0005]1.对动态图的连续建模不充分，没有完全挖掘用户间持续性的信息传递和用户嵌入通道间的交互
[0006]用户间的信息传递是具有持续性的。但是目前大部分方法只关注到事件发生时用户间的信息传递，同时也忽略了用户嵌入通道间的交互。
[0007]2.缺乏对事件个体特征的捕获
[0008]每个事件的发生都具有独特的背景信息，即事件具有个体特征，因此需要关注事件间的差异。但是现有的方法使用固定的模式来处理不同事件，这样将缺乏对事件个体特征的关注。

技术实现思路

[0009]本专利技术所要解决的技术问题是克服现有技术对用户间持续性信息传递和用户嵌入通道间交互的忽视和缺乏对事件个体特征的捕获等问题，提出一种基于常微分方程和超网络的事件预测方法。
[0010]为达到上述目标，本专利技术是采用如下技术方案实现的：
[0011]1.所述的基于常微分方程和超网络的事件预测方法，包括如下步骤：
[0012](1)由数据处理模块对数据集中所有事件数据进行处理：
[0013]1)将数据集中所有事件数据按照发生的时间先后顺序进行排序；
[0014]2)将数据集中所有事件数据中的时间项归一化到区间[0，1]内；
[0015]3)基于步骤1)2)，将数据集表示为：
[0016][0017]其中，三元组(a
i
，b
i
，t
i
)表示用户a
i
和用户b
i
在时间为t
i
时发生的事件，t
i
∈[0，1]。EventSet是一个有序集，集合中的所有事件按照时间先后顺序进行排序。对于在同一时间发生的并发事件，在EventSet中以任意顺序进行排序。
[0018]4)初始化用户嵌入并记录；
[0019](2)获取并处理同一时间发生的所有事件的相关数据，包括如下步骤：
[0020]1)由数据载入模块获取在同一时间发生的所有事件的三元组，即事件涉及的用户序号以及事件发生的时间；
[0021]2)计算1)中事件发生的时间与数据集中前一个不同时间的差值，若获取的事件发生的时间为0，那么与前一不同时间的差值设为0；
[0022]3)根据1)中获取的事件三元组构造观察图邻接矩阵；
[0023](3)基于图神经网络的常微分方程建模用户间的信息传递以及用户嵌入通道间的交互：
[0024]1)对最新更新的用户嵌入进行拼接；
[0025]2)对初始用户嵌入进行拼接；
[0026]3)利用基于图神经网络的常微分方程建模用户间的信息传递以及用户嵌入通道间的交互；
[0027](4)利用超网络来捕捉事件的个体特征：
[0028]1)根据时间戳和事件三元组获得事件正样本和负样本；
[0029]2)根据1)中正负样本的用户对序号，将用户序号对应的用户嵌入进行拼接形成事件表示；
[0030]3)利用超网络对事件表示进行微调，捕捉事件的个体特征；
[0031]4)利用微调后的事件表示计算正样本和负样本的分数；
[0032]5)利用4)中正负样本的分数计算事件损失；
[0033](5)利用消息传递机制建模网络结构变化时用户嵌入的瞬时变化：
[0034]1)基于消息传递机制获取用户嵌入的变化量；
[0035][0036]其中，Δx(a，t)是用户a的嵌入在时间t的变化量，x(a，t
‑
)是事件发生前用户a的嵌入，σ是激活函数，W1，W2是权重矩阵。N(a，t)表示在时间t与用户a发生事件的用户集。C
a，t
表示在时间t时与用户a发生交互的项目数，即C
a，t
＝|N(a，t)|。
[0037]2)根据用户嵌入和1)中用户嵌入的变化量得到新的用户嵌入；
[0038]x(a，t
+
)＝x(a，t
‑
)+Δx(a，t)
[0039]用户嵌入的更新可以组织成矩阵形式，形式如下：
[0040][0041]其中，表示了观察图在时间与上一时间的结构变化，即。是一个对每行进行求和构造出来的对角矩阵。和是可学习的参数矩阵；
[0042]X
A
(t
+
)＝X
A
(t
‑
)+M
A
(t)
⊙
ΔX
A
(t)
[0043]其中是一个由0，1组成的掩码矩阵。所有发生事件的用户所在的行的值全为1，其余行的值全为0；
[0044]3)根据用户嵌入的更新计算跳跃损失；
[0045](6)对数据集中每一个时间点进行(2)
‑
(4)的处理，直至训练集中所有数据训练完成，训练得到的模型应用于事件检测任务。
[0046]技术方案中所述的利用基于图神经网络的常微分方程建模用户间的信息传递以及用户嵌入通道间的交互，步骤如下：
[0047]1)用观察图邻接矩阵构造聚合矩阵，聚合矩阵的形式为：
[0048][0049]其中A
k
为观察图邻接矩阵，I为单位矩阵，D
k
为度矩阵。α为超参数，该参数控制了中心节点影响其邻居节点的速度，该参数的值可以从数据中学到；
[0050]2)将最新更新的用户嵌入作为超网络的输入生成缩放操作量μ
k
和位移操作量
[0051][0052]3)使用步骤2)中的缩放操作量μ
k
和位移操作量对参数α进行缩放和位移操作：
[0053][0054]其中表示了元素级乘法，通过对α进行缩放和位移操作，可以为不同时段生成不同的α；
[0055]4)将拼接后的最新更新的用户嵌入、拼接后的初始用户嵌入以及1)中获取的聚合矩阵作为常微分方程的输入，常微分本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于常微分方程和超网络的事件预测方法，其特征在于：(1)所述的基于常微分方程和超网络的事件预测方法，包括如下步骤：1)由数据处理模块对数据集中所有事件数据进行处理：
①
将数据集中所有事件数据按照发生的时间先后顺序进行排序；
②
将数据集中所有事件数据中的时间项归一化到区间[0,1]内；
③
基于步骤
①②
，将数据集表示为：其中，三元组(a
i
,b
i
,t
i
)表示用户a
i
和用户b
i
在时间为t
i
时发生的事件，a
i
∈[0,1]；EvnetSet是一个有序集，集合中的所有事件按照时间先后顺序进行排序；对于在同一时间发生的并发事件，在EventSet中以任意顺序进行排序；2)初始化用户嵌入并记录；(2)所述的获取并处理同一时间发生的所有事件的相关数据，包括如下步骤：1)由数据载入模块获取在同一时间发生的所有事件的三元组，即事件涉及的用户序号以及事件发生的时间；2)计算1)中事件发生的时间与数据集中前一个不同时间的差值，若获取的事件发生的时间为0，那么与前一不同时间的差值设为0；3)根据1)中获取的事件三元组构造观察图邻接矩阵；(3)利用基于图神经网络的常微分方程建模用户间的信息传递以及用户嵌入通道间的交互：1)对最新更新的用户嵌入进行拼接；2)对初始用户嵌入进行拼接；3)利用基于图神经网络的常微分方程建模用户间的信息传递以及用户嵌入通道间的交互：
①
用观察图邻接矩阵构造聚合矩阵，聚合矩阵的形式为：其中A
k
为观察图邻接矩阵，I为单位矩阵，D
k
为度矩阵；α为超参数，该参数控制了中心节点影响其邻居节点的速度，该参数的值可以从数据中学到；
②
将1)中获取的用户嵌入作为超网络的输入生成缩放操作量μ
k
和位移操作量和位移操作量
③
使用步骤
②
中的缩放操作量μ
k
和位移操作量对参数α进行缩放和位移操作：其中表示了元素级乘法，通过对α进行缩放和位移操作，可以为不同时段生成不同的α；
④
将1)中获取的用户嵌入、2)中获取的初始用户嵌入以及
①
中获取的聚合矩阵作为常微分方程的输入，常微分方程的形式为：
其中，L
k
是聚合矩阵，W
k
是权重矩阵；等式右边的第一项建模了网络中用户间的信息传递，第二项建模了用户嵌入通道间的交互，第三项是节点的初始嵌入，保留节点的初始嵌入可以防止模型发生过平滑问题；
⑤
得到新的用户嵌入并记录；(3)所述的利用超网络来捕捉事件的个体特征，包括如下步骤：1)根据时间戳和事件三元组获得事件正样本和负样本：
①
将用户嵌入与初始用户嵌入进行拼接；
②
根据时间找到所涉及的事件三元组，并记录事...

【专利技术属性】
技术研发人员：王英，张钧贺，王鑫，杨博，马涪元，朱曜迪，杨兆琪，
申请(专利权)人：吉林大学，
类型：发明
国别省市：