一种对图神经网络进行自动调优的方法及装置制造方法及图纸

技术编号:41283218 阅读:21 留言:0更新日期:2024-05-11 09:32
本申请实施例提供一种对图神经网络进行自动调优的方法及装置,所述方法包括:在第i次计算图优化阶段:从与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中选择至少一组待融合算子;将所述每组待融合算子替换为一个融合算子节点,得到与所述待优化图神经网络对应的第i计算图优化模型;在第i次算子优化阶段:确定所述第i计算图优化模型中的第一算子满足裂变条件,则在核函数生成过程中将所述第一算子裂变为多个算子,得到第i算子优化模型;通过数据映射将所述第i算子优化模型中的所有裂变得到的算子映射至对应的硬件单元以完成相应核函数编写,并对i进行自增操作。通过本申请实施例在降低图神经网络训练、推理过程的延迟的同时,减少浮点运算量、中间结果和访存次数。

【技术实现步骤摘要】

本申请涉及图神经网络领域,具体而言本申请实施例涉及一种对图神经网络进行自动调优的方法及装置


技术介绍

1、图神经网络(gnn)在学习图结构数据方面的有效性,使得它们在各种领域中均引起了较大影响。与传统的稠密神经网络一样,图神经网络的性能优化也成为了工业领域和科研领域的关注热点。但是由于真实世界图数据的非规则性,没有一种通用的稀疏算子优化手段能在任何图数据上都取得性能提升;另一方面,图数据的非规则性对算子融合等计算图优化手段的效果也有显著的影响,这些问题都为图神经网络的性能优化带来了挑战。

2、为了追求更高的性能,近期出现了许多gnn框架。最近的研究倾向于分别在计算图层面和算子层面研究性能优化。图优化和算子优化对于实现gnn的高效和高性能起着至关重要的作用。然而,现有的方法一般首先重写计算图,然后设计算子实现,这导致了两个优化级别之间的分离。此外,目前的图优化和算子优化策略主要是固定的,严重依赖于人工专业知识,并且局限于有限的搜索空间。例如,许多算子融合策略是基于经验确定预定义的融合模式并进行替换的。由于这些潜在因素,最近的gnn框架的性能往往本文档来自技高网...

【技术保护点】

1.一种对图神经网络进行自动调优的方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,

3.如权利要求1所述的方法,其特征在于,所述从与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中选择至少一组待融合算子,包括:

4.如权利要求3所述的方法,其特征在于,所述起点算子属于稠密算子,其中,所述稠密算子属于输出数据和输入数据均是顶点或边数据的算子。

5.如权利要求3所述的方法,其特征在于,所述从所述起点算子进行第一方向传播和/或第二方向传播,得到与各起点算子对应的组待融合算子,包括:...

【技术特征摘要】

1.一种对图神经网络进行自动调优的方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,

3.如权利要求1所述的方法,其特征在于,所述从与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中选择至少一组待融合算子,包括:

4.如权利要求3所述的方法,其特征在于,所述起点算子属于稠密算子,其中,所述稠密算子属于输出数据和输入数据均是顶点或边数据的算子。

5.如权利要求3所述的方法,其特征在于,所述从所述起点算子进行第一方向传播和/或第二方向传播,得到与各起点算子对应的组待融合算子,包括:

6.如权利要求5所述的方法,其特征在于,所述至少根据与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中的相关算子的算子运算模式得到所述待融合算子,包括:

7.如权利要求3所述的方法,其特征在于,所述至少根据与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中的相关算子的算子运算模式得到所述待融合...

【专利技术属性】
技术研发人员:李鸣一肖俊敏谭光明曹连雨
申请(专利权)人:中科弘云科技北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1