人工智能模型的优化方法、编译器、电子设备与存储介质技术

本公开至少一实施例提供一种人工智能模型的优化方法、编译器、电子设备与存储介质。该人工智能模型的优化方法包括：将至少一个第一算子的初级表示编译为第一中间表示；将第二算子的初级表示编译为第二中间表示，其中，对第二中间表示的计算内容进行改写，以使第二中间表示包含将移位后的第一输出数据从非连续张量转化为连续张量的功能；基于第一中间表示与第二中间表示，将至少一个第一算子和第二算子进行融合，得到第一融合算子；将第一融合算子的第二输出数据作为目标算子的第一输入数据，其中，第一输入数据为连续张量。该人工智能模型的优化方法提高了人工智能模型的计算效率，提高了芯片的运行性能，扩展了深度学习框架对移位操作的支持。

【技术实现步骤摘要】

本公开的实施例涉及一种人工智能模型的优化方法、编译器、电子设备与存储介质。

技术介绍

1、在人工智能（artificial intelligence，ai）领域，深度神经网络（deep neuralnetwork，dnn）已经成为先进技术的基础和许多应用的核心推动力。随着深度学习的应用场景的不断泛化，由深度神经网络执行的计算任务需要部署在不同的计算设备和硬件架构上。实际部署或训练场景对深度神经网络的性能往往也有着更为激进的要求，例如需要针对所部署的硬件特点定制计算代码。这些需求在通用ai框架中已经难以得到满足。使用ai编译器进行深度学习计算任务的编译与优化可以满足计算任务实际部署或训练场景对硬件性能的需求。

技术实现思路

1、本公开至少一实施例提供一种人工智能模型的优化方法，其中，所述人工智能模型包括至少一个第一算子、第二算子和目标算子，所述至少一个第一算子按照计算顺序在所述目标算子之前，所述第二算子用于对所述至少一个第一算子的第一输出数据执行移位操作，得到移位后的第一输出数据，所述移位后的第一输出数据为非连本文档来自技高网...

【技术保护点】

1.一种人工智能模型的优化方法，其特征在于，所述人工智能模型包括至少一个第一算子、第二算子和目标算子，所述至少一个第一算子按照计算顺序在所述目标算子之前，

2.根据权利要求1所述的人工智能模型的优化方法，其特征在于，在所述将所述第二算子的初级表示编译为第二中间表示之前，所述人工智能模型的优化方法还包括：

3.根据权利要求1所述的人工智能模型的优化方法，其特征在于，所述基于所述第一中间表示与所述第二中间表示，将所述至少一个第一算子和所述第二算子进行融合，得到第一融合算子，包括：

4.根据权利要求1所述的人工智能模型的优化方法，其特征在于，在对所述第二中间...

【技术特征摘要】

1.一种人工智能模型的优化方法，其特征在于，所述人工智能模型包括至少一个第一算子、第二算子和目标算子，所述至少一个第一算子按照计算顺序在所述目标算子之前，

2.根据权利要求1所述的人工智能模型的优化方法，其特征在于，在所述将所述第二算子的初级表示编译为第二中间表示之前，所述人工智能模型的优化方法还包括：

3.根据权利要求1所述的人工智能模型的优化方法，其特征在于，所述基于所述第一中间表示与所述第二中间表示，将所述至少一个第一算子和所述第二算子进行融合，得到第一融合算子，包括：

4.根据权利要求1所述的人工智能模型的优化方法，其特征在于，在对所述第二中间表示的计算内容进行改写之后，所述第二中间表示的计算内容包括：

5.根据权利要求1所述的人工智能模型的优化方法，其特征在于，所述至少一个第一算子的第一输出数据具有第一形状属性、第一步长属性和第一数据属性，所述第一数据属性与第一形状属性、第一步长属性相匹配；

6.根据权利要求5所述的人工智能...

【专利技术属性】
技术研发人员：请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，
申请(专利权)人：上海壁仞科技股份有限公司，
类型：发明
国别省市：