System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本说明书涉及机器学习领域,尤其涉及一种基于冗余消除的超图神经网络更新方法、装置及设备
技术介绍
1、随着神经网络的发展,图神经网络在各种基于图的任务中取得了优异的性能。但是,在实际应用中,图往往由多个顶点构成的相互关系构成,而非成对的顶点构成,若以成对的顶点代替多个顶点构成的相互关系,构建图神经网络会造成信息损失,因此现有技术通常采用超图神经网络进行处理。
2、现有技术超图神经网络的计算可以抽象为四个阶段:聚合超边、更新超边特征、聚合顶点以及更新顶点特征。其中,聚合超边和聚合顶点两个阶段,涉及到传统的图处理,严重依赖于固有的稀疏图结构,而更新超边特征和更新顶点特征主要涉及矩阵运算,是典型的神经网络操作。
3、可见,超图神经网络的计算即包括规则运算,也包括不规则运算。在采用硬件加速器进行计算时,硬件加速器只支持基于简单图的图神经网络,无法直接处理超图神经网络,因此在对超图神经网络计算时会产生大量的冗余计算,极大地降低了超图神经网络的计算效率。
4、因此,如何提高超图神经网络的计算效率成为亟待解决的问题,本说明书提供了一种基于冗余消除的超图神经网络更新方法。
技术实现思路
1、本说明书提供一种基于冗余消除的超图神经网络更新方法、装置及设备,以部分的解决现有技术存在的上述问题。
2、本说明书采用下述技术方案:
3、本说明书提供了一种基于冗余消除的超图神经网络更新方法,包括:
4、获取待更新的超图神经网络,确定所述超图
5、将各顶点两两组合确定各顶点对,并针对每个顶点对,根据该顶点对中重合的超边,确定所述超图神经网络中的冗余聚合集;
6、针对每个顶点,确定该顶点对应的超边以及冗余聚合集;
7、当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征;
8、判断该顶点对应冗余聚合集是否已经过聚合处理;若是,则从所述缓存中获取该顶点对应冗余聚合集的聚合特征;若否,则确定该顶点对应冗余聚合集中各超边,作为目标超边,确定所述目标超边更新后的特征,并根据该顶点对应冗余聚合集中各超边更新后的特征,对该顶点对应冗余聚合集进行聚合,确定聚合特征,并存储至缓存;
9、根据已更新的该顶点对应的超边的特征,和/或该顶点对应冗余聚合集的聚合特征,更新该顶点的顶点特征;
10、当所述超图神经网络中的各顶点的顶点特征均已更新时,根据各顶点的顶点特征以及各超边更新后的特征,基于预设模型权重,确定更新后的超图神经网络。
11、可选地,当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征,具体包括:
12、判断该顶点是否存在对应的超边;
13、若是,则当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征;
14、若否,则确定更新该顶点的顶点特征无需超边的特征,不进行处理。
15、可选地,判断该顶点对应冗余聚合集是否已经过聚合处理,具体包括:
16、判断该顶点是否存在对应的冗余聚合集;
17、若是,则继续判断该顶点对应冗余聚合集是否已经过聚合处理;
18、若否,则确定更新该顶点的顶点特征无需冗余聚合集的特征,不进行处理。
19、可选地,根据已更新的该顶点对应的超边的特征,和/或该顶点对应冗余聚合集的聚合特征,基于预设模型权重,更新该顶点的顶点特征,具体包括:
20、当该顶点仅存在超边时,根据更新的该顶点对应的超边的特征,基于预设的模型权重,更新该顶点的顶点特征;
21、当该顶点仅存在冗余聚合集时,根据更新的该顶点对应的冗余聚合集的特征,基于预设的模型权重,更新该顶点的顶点特征;
22、当该顶点即存在超边又存在冗余聚合集时,根据预设权重的更新的超边的特征和预设权重的更新的冗余聚合集的特征,更新该顶点的特征。
23、可选地,所述方法还包括:
24、当确定出所述超图神经网络的各超边以及各冗余聚合集时,将各超边存储至第一列表,将各冗余聚合集存储至第二列表。
25、可选地,当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征,具体包括:
26、根据所述第一列表,判断该顶点对应的超边是否在所述第一列表中;
27、若是,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存,以及在所述第一列表中删除所述超边;
28、若否,从所述缓存中获取该顶点对应的超边的特征。
29、可选地,判断该顶点对应冗余聚合集是否已经过聚合处理,具体包括:
30、根据所述第二列表,判断该顶点对应冗余聚合集是否在所述第二列表中;
31、若是,则该顶点对应冗余聚合集未进行聚合,聚合该顶点对应冗余聚合集,并将该顶点对应冗余聚合集在所述第二列表中删除;
32、若否,从所述缓存中获取该顶点对应冗余聚合集的特征。
33、可选地,聚合该顶点对应冗余聚合集,具体包括:
34、确定该顶点对应冗余聚合集中各超边的状态,当该顶点对应所述冗余聚合集中各超边状态都为已更新时,开始对该顶点对应冗余聚合集进行聚合;
35、当该顶点对应的所述冗余聚合集中存在状态为未更新的超边时,在第一列表中获取该未更新超边,并对该超边进行跟新,确定该超边更新后的特征,直至顶点对应的所述冗余聚合集中各超边状态都为已更新,聚合该顶点对应冗余聚合集。
36、本说明书提供一种基于冗余消除的超图神经网络更新装置,包括:中央控制器、协调器、聚合器、更新器、缓冲管理单元,以及缓存,其中:
37、所述中央控制器,用于获取待更新的超图神经网络,确定所述超图神经网络中的顶点以及超边;将各顶点两两组合确定各顶点对,并针对每个顶点对,根据该顶点对中重合的超边,确定所述超图神经网络中的冗余聚合集;针对每个顶点,确定该顶点对应的超边以及冗余聚合集;当所述超图神经网络中的各顶点的顶点特征均已更新时,根据各顶点的顶点特征以及各超边更新后的特征,确定更新后的超图神经网络;
38、所述协调器,用于从所述缓存中获取顶点特征、超图结构以及模型权重存储至缓冲管理单元;判断该顶点所述对应超边是否更新以及对应冗余聚合集是否已经过聚合处理;若超边未更新,将超边更新任务发送至更新器;本文档来自技高网...
【技术保护点】
1.一种基于冗余消除的超图神经网络更新方法,其特征在于,包括:
2.如权利要求1所述方法,其特征在于,当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征,具体包括:
3.如权利要求1所述方法,其特征在于,判断该顶点对应冗余聚合集是否已经过聚合处理,具体包括:
4.如权利要求1所述方法,其特征在于,根据已更新的该顶点对应的超边的特征,和/或该顶点对应冗余聚合集的聚合特征,基于预设模型权重,更新该顶点的顶点特征,具体包括:
5.如权利要求1所述方法,其特征在于,所述方法还包括:
6.如权利要求5所述方法,其特征在于,当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征,具体包括:
7.如权利要求5所述方法,其特征在于,判断该顶点对应冗余聚合集是否已经过聚合处理,具体包
8.如权利要求7所述方法,其特征在于,聚合该顶点对应冗余聚合集,具体包括:
9.一种基于冗余消除的超图神经网络更新装置,其特征在于,所述装置包括:中央控制器、协调器、聚合器、更新器、缓冲管理单元、以及缓存,其中:
10.如权利要求9所述装置,其特征在于,所述协调器还包括结构预取器、任务调度器以及顶点预取器中至少一种,具体用于:
11.如权利要求9所述装置,其特征在于,所述更新器还包括第一更新器和第二更新器,具体用于:
12.如权利要求9所述装置,其特征在于,所述缓存还用于存储超边状态和冗余聚合集聚合状态。
13.一种计算机可读存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现上述权利要求1~8任一项所述的方法。
14.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~8任一项所述的方法。
...【技术特征摘要】
1.一种基于冗余消除的超图神经网络更新方法,其特征在于,包括:
2.如权利要求1所述方法,其特征在于,当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征,具体包括:
3.如权利要求1所述方法,其特征在于,判断该顶点对应冗余聚合集是否已经过聚合处理,具体包括:
4.如权利要求1所述方法,其特征在于,根据已更新的该顶点对应的超边的特征,和/或该顶点对应冗余聚合集的聚合特征,基于预设模型权重,更新该顶点的顶点特征,具体包括:
5.如权利要求1所述方法,其特征在于,所述方法还包括:
6.如权利要求5所述方法,其特征在于,当该顶点对应的超边未更新时,根据该顶点对应的超边包含的各顶点的特征,更新该顶点对应的超边的特征,并存储至缓存;当该顶点对应的超边已更新时,从所述缓存中获取该顶点对应的超边的特征,具体包括:
7.如权利要求5所述方法,其特征在于,判断该...
【专利技术属性】
技术研发人员:张宇,沈千格,宁鑫,赵进,余辉,张湛,
申请(专利权)人:之江实验室,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。