模型参数处理方法、装置、电子设备及存储介质制造方法及图纸

技术编号:43089916 阅读:14 留言:0更新日期:2024-10-26 09:37
本发明专利技术公开了一种模型参数处理方法、装置、电子设备及存储介质。其中,模型参数处理方法包括:对预先训练好的神经网络模型的网络参数进行重参数化;重参数化用于将神经网络模型的网络参数与存算一体芯片适配;将重参数化后的神经网络模型的网络参数写入存算一体芯片中。

【技术实现步骤摘要】

本专利技术涉及计算机,尤其涉及一种模型参数处理方法、装置、电子设备及存储介质


技术介绍

1、存算一体技术将电路做成交叉阵列结构,与矩阵形状类似,利用基尔霍夫定律和欧姆定律可高效完成矩阵乘加运算,广泛应用于人工智能(artificial intelligence,ai)推理场景中。目前,ai推理模型是基于中央处理器(cpu,central processing unit)/图形处理器(graphics processing unit,gpu)实现的,ai推理模型无法部署到存算一体芯片中。


技术实现思路

1、有鉴于此,本专利技术实施例提供了一种模型参数处理方法、装置、电子设备及存储介质,能够将神经网络模型的网络参数部署至存算一体芯片中。

2、本专利技术实施例的技术方案是这样实现的:

3、第一方面,本专利技术实施例提供了一种模型参数处理方法,该方法包括:

4、对预先训练好的神经网络模型的网络参数进行重参数化;所述重参数化用于将所述神经网络模型的网络参数与存算一体芯片适配;...

【技术保护点】

1.一种模型参数处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括互相连接的层归一化层和全连接层,所述网络参数包括所述神经网络模型各层的权重矩阵;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:

3.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括至少一个跳跃连接结构;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:

4.根据权利要求3所述的方法,其特征在于,所述输出层包括全连接层,所述在每个跳跃连接结构包括的输出层中添加输入特征的恒等映射,包括:</p>

5.根据...

【技术特征摘要】

1.一种模型参数处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括互相连接的层归一化层和全连接层,所述网络参数包括所述神经网络模型各层的权重矩阵;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:

3.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括至少一个跳跃连接结构;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:

4.根据权利要求3所述的方法,其特征在于,所述输出层包括全连接层,所述在每个跳跃连接结构包括的输出层中添加输入特征的恒等映射,包括:

5.根据权利要求3所述的方法,其特征在于,所述输出层包括非线性激活层,所述在每个跳跃连接结构包括的输出层中添加输入特征的恒等映射,包括:

6.根据权利要求3所述的方法,其特征在于,所述跳跃连接结...

【专利技术属性】
技术研发人员:王琪
申请(专利权)人:中国移动通信有限公司研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1