【技术实现步骤摘要】
本专利技术涉及人工智能，尤其涉及一种模型运算方法及装置。
技术介绍
1、在人工智能模型里通常包括计算类算子和数据交换规约类算子。计算类算子指进行实际计算或处理的操作符或指令，计算类算子通常涉及对数据进行数学运算、逻辑运算或函数计算。数据交换规约类算子主要涉及数据的移动、交换和规约操作，数据交换规约类算子通常处理数据在不同存储位置（如不同芯片）之间的传输、汇总或合并操作。
2、目前，在进行人工智能模型推理时，多是并行执行计算类算子和数据交换规约类算子，但该方法会导致计算类算子性能下降，进而影响模型推理效率。
技术实现思路
1、本专利技术提供一种模型运算方法及装置，用以解决相关技术中存在的缺陷。
2、本专利技术提供一种模型运算方法，包括如下步骤：
3、将待运算数据划分为多份批次数据，并将各批次数据加载至对应芯片上；
4、在各芯片上，执行数据交换步骤，所述数据交换步骤包括在各芯片上基于批次数据进行运算时，各芯片与目标芯片进行数据交换，以使各芯片从所...
【技术保护点】
1.一种模型运算方法，其特征在于，包括：
2.根据权利要求1所述的模型运算方法，其特征在于，所述各芯片与目标芯片进行数据交换，包括：
3.根据权利要求2所述的模型运算方法，其特征在于，各芯片的交换数据基于各芯片的运算逻辑确定。
4.根据权利要求1至3任一项所述的模型运算方法，其特征在于，所述在各芯片上基于批次数据进行运算时，各芯片与目标芯片进行数据交换，包括：
5.根据权利要求1至3任一项所述的模型运算方法，其特征在于，所述基于各芯片上的批次数据的运算结果，以及各芯片的交换数据的运算结果，进行模型运算，得到模型运算结果，
...
【技术特征摘要】
1.一种模型运算方法，其特征在于，包括：
2.根据权利要求1所述的模型运算方法，其特征在于，所述各芯片与目标芯片进行数据交换，包括：
3.根据权利要求2所述的模型运算方法，其特征在于，各芯片的交换数据基于各芯片的运算逻辑确定。
4.根据权利要求1至3任一项所述的模型运算方法，其特征在于，所述在各芯片上基于批次数据进行运算时，各芯片与目标芯片进行数据交换，包括：
5.根据权利要求1至3任一项所述的模型运算方法，其特征在于，所述基于各芯片上的批次数据的运算结果，以及各芯片的交换数据的运算结果，进行模型运算，得到模型运算结果，包括：
6.根据权利要求1至3...
【专利技术属性】
技术研发人员：请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，
申请(专利权)人：广州壁仞集成电路有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。