一种用于优化GNN训练的图重排算法制造技术

技术编号:45514550 阅读:8 留言:0更新日期:2025-06-13 17:19
本发明专利技术公开一种用于优化GNN训练的图重排算法,涉及人工智能,针对现有技术内存访问瓶颈的问题提出本方案。包括以下步骤:S1.邻接表提取和节点分类;S2.初始化与随机选择;S3.利用最大公共邻居策略和随机选择策略来选择下一个待排序的节点;S4.迭代:重复执行步骤S3,直到非孤立节点全部完成排序;S5.孤立节点的处理步骤;S6.更新节点属性。优点在于,专门针对GNN的训练进行优化,可以快速地对几百万个节点地图完成排序,并且很大程度地提高数据的局部性,进而提高访存地命中率,减小访存的延时。不仅可以用于GNN训练的加速,而且还可以用于SpMV的加速;这是自然而然的事情,因为增加了数据的局部性,在访问数据时,能够提高访存的命中率,进而加速SpMV的计算。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种用于优化gnn训练的图重排算法。


技术介绍

1、图(graph)是一种经典的非欧几何数据结构,它通过一系列节点及其相互关系(边)来描述数据的特征和结构。图神经网络(graph neural networks,gnn)因为具有对图结构数据进行建模和学习的能力,而引起了机器学习领域研究者的广泛关注。它不仅改变了对图数据的理解,还为社交网络分析、推荐系统、生物信息学等多个领域的问题提供了强大的解决方案。

2、然而,图数据具有天然的不规则性,与图像数据不同,图数据中任意两个数据都可能存在连接关系,因而图数据的局部性非常低,这造成了访存的不规则。图数据的不规则性给gnn的训练带来了巨大的挑战,特别是在处理大规模图数据时,gnn模型的训练和推断成本昂贵,需要大量的计算资源和时间。如何优化图数据的访存是提高gnn训练速度的关键。

3、在图重排的技术中,需要遍历所有节点并为节点生成一个顺序id,用于映射新的排列顺序。目前的图重排技术大多数用在稀疏矩阵乘法(spmv)中,用于加速spmv的计算速度。在现有技术中,“本文档来自技高网...

【技术保护点】

1.一种用于优化GNN训练的图重排算法,其特征在于,包括以下步骤:

2.根据权利要求1所述一种用于优化GNN训练的图重排算法,其特征在于,所述步骤S1具体为:从图中批量提取邻接表,将节点分为孤立节点集合Vi和非孤立节点集合Vn;其中孤立节点集合Vi不参与排序过程。

3.根据权利要求2所述一种用于优化GNN训练的图重排算法,其特征在于,所述步骤S2包括以下子步骤:

4.根据权利要求3所述一种用于优化GNN训练的图重排算法,其特征在于,所述步骤S3包括以下子步骤:

5.根据权利要求4所述一种用于优化GNN训练的图重排算法,其特征在于,所述步骤S...

【技术特征摘要】

1.一种用于优化gnn训练的图重排算法,其特征在于,包括以下步骤:

2.根据权利要求1所述一种用于优化gnn训练的图重排算法,其特征在于,所述步骤s1具体为:从图中批量提取邻接表,将节点分为孤立节点集合vi和非孤立节点集合vn;其中孤立节点集合vi不参与排序过程。

3.根据权利要求2所述一种用于优化gnn训练的图重排算法,其特征在于,所述步骤s2包括以下子步骤:

4....

【专利技术属性】
技术研发人员:邹毅温国华宋县锋
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1