【技术实现步骤摘要】
本申请涉及图神经网络领域,具体而言本申请实施例涉及一种对图神经网络进行自动调优的方法及装置。
技术介绍
1、图神经网络(gnn)在学习图结构数据方面的有效性,使得它们在各种领域中均引起了较大影响。与传统的稠密神经网络一样,图神经网络的性能优化也成为了工业领域和科研领域的关注热点。但是由于真实世界图数据的非规则性,没有一种通用的稀疏算子优化手段能在任何图数据上都取得性能提升;另一方面,图数据的非规则性对算子融合等计算图优化手段的效果也有显著的影响,这些问题都为图神经网络的性能优化带来了挑战。
2、为了追求更高的性能,近期出现了许多gnn框架。最近的研究倾向于分别在计算图层面和算子层面研究性能优化。图优化和算子优化对于实现gnn的高效和高性能起着至关重要的作用。然而,现有的方法一般首先重写计算图,然后设计算子实现,这导致了两个优化级别之间的分离。此外,目前的图优化和算子优化策略主要是固定的,严重依赖于人工专业知识,并且局限于有限的搜索空间。例如,许多算子融合策略是基于经验确定预定义的融合模式并进行替换的。由于这些潜在因素,最近的
...【技术保护点】
1.一种对图神经网络进行自动调优的方法,其特征在于,所述方法包括:
2.如权利要求1所述的方法,其特征在于,
3.如权利要求1所述的方法,其特征在于,所述从与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中选择至少一组待融合算子,包括:
4.如权利要求3所述的方法,其特征在于,所述起点算子属于稠密算子,其中,所述稠密算子属于输出数据和输入数据均是顶点或边数据的算子。
5.如权利要求3所述的方法,其特征在于,所述从所述起点算子进行第一方向传播和/或第二方向传播,得到与各起点算子对应的组待
...【技术特征摘要】
1.一种对图神经网络进行自动调优的方法,其特征在于,所述方法包括:
2.如权利要求1所述的方法,其特征在于,
3.如权利要求1所述的方法,其特征在于,所述从与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中选择至少一组待融合算子,包括:
4.如权利要求3所述的方法,其特征在于,所述起点算子属于稠密算子,其中,所述稠密算子属于输出数据和输入数据均是顶点或边数据的算子。
5.如权利要求3所述的方法,其特征在于,所述从所述起点算子进行第一方向传播和/或第二方向传播,得到与各起点算子对应的组待融合算子,包括:
6.如权利要求5所述的方法,其特征在于,所述至少根据与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中的相关算子的算子运算模式得到所述待融合算子,包括:
7.如权利要求3所述的方法,其特征在于,所述至少根据与待优化图神经网络模型对应的原始算子模型或者从经上一次算子优化阶段得到的算子优化模型中的相关算子的算子运算模式得到所述待融合...
【专利技术属性】
技术研发人员:李鸣一,肖俊敏,谭光明,曹连雨,
申请(专利权)人:中科弘云科技北京有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。