运算方法、装置、电子设备和存储介质制造方法及图纸

技术编号:39126801 阅读:30 留言:0更新日期:2023-10-23 14:49
本发明专利技术提供一种运算方法、装置、电子设备和存储介质,方法包括:确定针对第一数据进行运算的目标算子;从服务端获取与第一数据和目标算子对应的目标地址,目标地址是服务端基于存储第一数据的初始地址以及目标算子对应的地址映射关系确定的;从初始地址读取所述第一数据,并将第一数据存入目标地址。本发明专利技术提供的方法、装置、电子设备和存储介质,通过确定针对第一数据进行运算的目标算子;从服务端获取与第一数据和目标算子对应的目标地址,接着从初始地址读取所述第一数据,并将第一数据存入目标地址,实现了第一数据的目标地址的预运算,使得对第一数据进行View类算子的运算性能更高,并能够更有效和普遍的提升View类算子的运算性能。运算性能。运算性能。

【技术实现步骤摘要】
运算方法、装置、电子设备和存储介质


[0001]本专利技术涉及信息处理
,尤其涉及一种运算方法、装置、电子设备和存储介质。

技术介绍

[0002]当前的View类算子的普遍采用“加载

地址重映射计算

存出”这样的直接的计算过程,将大量的地址计算直接放到设备端。由于地址重映射的计算过程较为复杂,这就导致了生成的汇编代码内核随着数据量的增加急速增加,运行效率显著下降,导致部分大量用到了View类算子的神经网络模型性能远低于预期。为解决此问题,普遍做法是针对具体的场景进行针对性优化。
[0003]但是,由于在人工智能芯片上,数据以多种布局存储,不同的布局下逻辑地址到物理地址的映射亦不同,导致实际场景中有相当多的组合,则一一针对性优化需要耗费极大的成本。由此,现有技术对提升View类算子的运算性能并不理想。

技术实现思路

[0004]本专利技术提供一种运算方法、装置、电子设备和存储介质,用以解决现有技术中针对多种场景下提升View类算子的运算性能并不理想的缺陷。<br/>[0005]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种运算方法,其特征在于,应用于设备端,所述方法包括:确定针对第一数据进行运算的目标算子;从服务端获取与所述第一数据和所述目标算子对应的目标地址,所述目标地址是所述服务端基于存储所述第一数据的初始地址以及所述目标算子对应的地址映射关系确定的;从所述初始地址读取所述第一数据,并将所述第一数据存入所述目标地址。2.根据权利要求1所述的运算方法,其特征在于,所述第一数据包括多个切片;所述从服务端获取与所述第一数据和所述目标算子对应的目标地址,包括:从所述服务端获取与所述多个切片中的第一切片和所述目标算子对应的基准地址,将所述基准地址作为所述第一切片的目标地址。3.根据权利要求2所述的运算方法,其特征在于,所述从服务端获取与所述第一数据和所述目标算子对应的目标地址,还包括:从所述服务端获取与所述多个切片中的第二切片和所述目标算子对应的偏移值,基于所述基准地址和所述偏移值确定所述第二切片的目标地址。4.根据权利要求1所述的运算方法,其特征在于,所述目标算子的确定步骤包括:获取待运算公式,并将所述待运算公式划分多个子项;评估各个子项是否重用;基于所述各个子项是否重用,选取运算指令;所述运算指令用于确定目标算子。5.根据权利要求4所述的运算方法,其特征在于,所述评估各个子项是否重用,包括:将至少一个子项作为算子,以执行各切片的运算,...

【专利技术属性】
技术研发人员:请求不公布姓名
申请(专利权)人:上海壁仞智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1