一种算子计算方法、装置、设备及系统制造方法及图纸

本申请提供了人工智能领域的一种算子计算方法、装置、设备及系统，该方法包括：获取AI网络的第一数据形状的参数数据，第一数据形状是AI网络支持处理的每个维度上的数据长度，参数数据包括至少两个计算单元的组合信息，每个计算单元支持处理的数据为具有第二数据形状的数据，每个计算单元的第二数据形状按照组合信息组合后在任一维度上的数据长度大于或等于第一数据形状在同一维度上的数据长度；调用至少两个计算单元，对具有第一数据形状的第一目标数据进行计算。因此，本申请通过组合至少两个计算单元的方式来支持任意范围数据形状的变化，实现了AI动态形状算子功能，提高了AI网络启动速度。网络启动速度。网络启动速度。

【技术实现步骤摘要】
一种算子计算方法、装置、设备及系统


[0001]本申请涉及计算机
，尤其涉及一种算子计算方法、装置、设备及系统。

技术介绍

[0002]AI(Artificial Intelligence,人工智能)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。
[0003]目前，随着计算机技术的不断发展，AI网络也得到了广泛的应用。并且，AI网络越来越复杂，AI网络中AI算子的类型也越来越多，即使是同一类型AI算子，其需要支持处理的数据的数据形状也越来越多，若针对每个不同的数据形状，均需要重新编译一个AI算子，使得编译越来越耗时，也降低了AI网络启本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种算子计算方法，其特征在于，所述方法包括：获取人工智能AI网络的第一数据形状的参数数据，所述第一数据形状是所述AI网络支持处理的每个维度上的数据长度，所述参数数据包括至少两个计算单元的组合信息，每个计算单元支持处理的数据为具有第二数据形状的数据，每个计算单元的第二数据形状按照所述组合信息组合后在任一维度上的数据长度大于或等于所述第一数据形状在同一维度上的数据长度；调用所述至少两个计算单元，对具有所述第一数据形状的第一目标数据进行计算。2.根据权利要求1所述的方法，其特征在于，所述至少两个计算单元包括相同的计算单元；或不同的计算单元；或相同的计算单元和不同的计算单元；其中，相同的计算单元的第二数据形状，在每个维度上的数据长度均相同；不同的计算单元的第二数据形状，在至少一个维度上的数据长度不同。3.根据权利要求1所述的方法，其特征在于，所述至少两个计算单元均为所述AI网络的计算单元。4.根据权利要求1所述的方法，其特征在于，所述组合信息包括所述至少两个计算单元的组合模式；每个计算单元的第二数据形状按照所述组合模式组合后在任一维度上的数据长度大于或等于所述第一数据形状在同一维度上的数据长度。5.根据权利要求1所述的方法，其特征在于，所述参数数据中还包括针对指定计算单元的标识信息；其中，所述指定计算单元指的是所述至少两个计算单元中需要处理的数据为具有第三数据形状的数据的计算单元，所述第三数据形状在至少一个维度上的数据长度小于所述指定计算单元支持处理的第二数据形状在同一维度上的数据长度。6.根据权利要求5所述的方法，其特征在于，所述参数数据中还包括所述指定计算单元针对所述具有第三数据形状的数据的指定处理方式。7.根据权利要求6所述的方法，其特征在于，所述指定处理方式包括：丢弃无效数据，所述无效数据是所述指定计算单元支持处理的第二数据形状中除了具有所述第三数据形状的数据之外的数据；或数据重叠，所述数据重叠是将所述无效数据与另一计算单元需要处理的数据进行重叠。8.根据权利要求5所述的方法，其特征在于，所述参数数据中还包括所述指定计算单元支持所述第三数据形状在每个维度上的指定变化范围。9.根据权利要求8所述的方法，其特征在于，所述指定变化范围为所述指定计算单元支持处理的第二数据形状在每个维度上的数据长度；或所述第二数据形状在每个维度上的数据长度中的指定部分长度。10.根据权利要求1所述的方法，其特征在于，所述参数数据包括分档参数数据，所述分档参数数据用于支持指定变化范围的数据形状。11.根据权利要求1所述的方法，其特征在于，所述调用所述至少两个计算单元，对具有所述第一数据形状的第一目标数据进行计算，包括：从计算单元算子库中获取所述至少两个计算单元；
通过所述至少两个计算单元对具有所述第一数据形状的第一目标数据进行计算。12.根据权利要求1所述的方法，其特征在于，所述调用所述至少两个计算单元，对具有所述第一数据形状的第一目标数据进行计算，包括：针对任一计算单元，确定所述任一计算单元中需要处理的第二目标数据在所述第一目标数据中的目标位置；按照所述目标位置从存储有所述第一目标数据的内存空间中，获取所述任一计算单元需要处理的第二目标数据；通过所述任一计算单元对所述第二目标数据进行计算。13.根据权利要求12所述的方法，其特征在于，所述目标位置包括：所述第二目标数据所在的各个维度；以及，针对任一维度，所述第二目标数据在所述任一维度上的偏移和数据长度。14.根据权利要求1所述的方法，其特征在于，所述至少两个计算单元属于不同类型的算子。15.根据权利要求1至14任一项所述的方法，其特征在于，所述计算单元为预先编译好的算子。16.一种算子计算装置，其特征在于，所述装置包括：获取模块，被配置为获取人工智能AI网络的第一数据形状的参数数据，所述第一数据形状是所述AI网络支持处理的每个维度上的数据长度，所述参数数据包括至少两个计算单元的组合信息，每个计算单元支持处理的数据为具有第二数据形状的数据，每个计算单元的第二数据形状按照所述组合信息组合后在任一维度上的数据长度大于或等于所述第一数据形状在同一维度上的数据长度；计算模块，被配置为调用所述至少两个计算单元，对具有所述第一数据形状的第一目标数据进行计算。17.根据权利要求16所述的装置，其特征在于，所述至少两个计算单元包括相同的计算单元；或不同的计算单元；或相同的计算单元...

【专利技术属性】
技术研发人员：鲍旭，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：