一种AI加速器的约束定位方法、装置、电子设备及介质制造方法及图纸

技术编号:40371303 阅读:21 留言:0更新日期:2024-02-20 22:14
本申请实施例提供了一种AI加速器的约束定位方法、装置、电子设备及介质,该方法包括:获取待检测模型代码,运行待检测模型代码,根据待检测模型代码包括的运算操作以及运算操作对应的数据的传递关系,构建模型计算图,将待检测模型代码包括的每个运算操作对应的代码位置绑定至模型计算图中该运算操作对应的节点,得到绑定位置的模型计算图,基于绑定位置的模型计算图中各节点、边以及预先获得的加速器信息,确定与加速器信息不符的目标节点,将目标节点所对应的代码位置对应的代码,确定为约束代码。本申请实施例无需人工定位AI加速器的约束对应的模型代码,可以提高定位AI加速器的约束对应的模型代码的效率,进而提高模型部署效率。

【技术实现步骤摘要】

本申请涉及深度学习,特别是涉及一种ai加速器的约束定位方法、装置、电子设备及介质。


技术介绍

1、人工智能(artificial intelligence,ai)加速器是指除通用处理器以外的用于辅助ai计算的计算单元,通常用于处理特定模式的计算,因此ai加速器对其所执行的模型代码设有一定的约束限制。而工作人员在进行模型代码设计时,一般不会考虑ai加速器的约束限制,导致在实际生产环境中部署模型时,出现较多不支持模型结构的错误。

2、这样工作人员需要根据错误信息人工排查不支持的模型结构以及定位该模型结构对应的模型代码,可见,采用以上方式定位ai加速器的约束对应的模型代码的效率很低,并且严重影响模型的部署效率。


技术实现思路

1、本申请实施例的目的在于提供一种ai加速器的约束定位方法、装置、电子设备及介质,以提高定位ai加速器的约束对应的模型代码的效率,进而提高模型的部署效率。具体技术方案如下:

2、第一方面,本申请实施例提供了一种ai加速器的约束定位方法,所述方法包括</p>

3、获取本文档来自技高网...

【技术保护点】

1.一种AI加速器的约束定位方法,其特征在于,所述方法包括

2.根据权利要求1所述的方法,其特征在于,所述运行所述待检测模型代码,根据所述待检测模型代码包括的运算操作以及所述运算操作对应的数据的传递关系,构建模型计算图的步骤,包括:

3.根据权利要求2所述的方法,其特征在于,所述待检测模型代码包括初始化代码和调用代码;

4.根据权利要求1-3任一项所述的方法,其特征在于,所述基于所述绑定位置的模型计算图中各节点、边以及预先获得的加速器信息,确定与所述加速器信息不符的目标节点的步骤,包括:

5.根据权利要求1-3任一项所述的方法,其特征在于,...

【技术特征摘要】

1.一种ai加速器的约束定位方法,其特征在于,所述方法包括

2.根据权利要求1所述的方法,其特征在于,所述运行所述待检测模型代码,根据所述待检测模型代码包括的运算操作以及所述运算操作对应的数据的传递关系,构建模型计算图的步骤,包括:

3.根据权利要求2所述的方法,其特征在于,所述待检测模型代码包括初始化代码和调用代码;

4.根据权利要求1-3任一项所述的方法,其特征在于,所述基于所述绑定位置的模型计算图中各节点、边以及预先获得的加速器信息,确定与所述加速器信息不符的目标节点的步骤,包括:

5.根据权利要求1...

【专利技术属性】
技术研发人员:万有文江欣聪秦川
申请(专利权)人:上海高德威智能交通系统有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1