【技术实现步骤摘要】
本专利技术涉及计算机,尤其涉及一种模型参数处理方法、装置、电子设备及存储介质。
技术介绍
1、存算一体技术将电路做成交叉阵列结构,与矩阵形状类似,利用基尔霍夫定律和欧姆定律可高效完成矩阵乘加运算,广泛应用于人工智能(artificial intelligence,ai)推理场景中。目前,ai推理模型是基于中央处理器(cpu,central processing unit)/图形处理器(graphics processing unit,gpu)实现的,ai推理模型无法部署到存算一体芯片中。
技术实现思路
1、有鉴于此,本专利技术实施例提供了一种模型参数处理方法、装置、电子设备及存储介质,能够将神经网络模型的网络参数部署至存算一体芯片中。
2、本专利技术实施例的技术方案是这样实现的:
3、第一方面,本专利技术实施例提供了一种模型参数处理方法,该方法包括:
4、对预先训练好的神经网络模型的网络参数进行重参数化;所述重参数化用于将所述神经网络模型的网络参数与存算
...【技术保护点】
1.一种模型参数处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括互相连接的层归一化层和全连接层,所述网络参数包括所述神经网络模型各层的权重矩阵;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:
3.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括至少一个跳跃连接结构;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:
4.根据权利要求3所述的方法,其特征在于,所述输出层包括全连接层,所述在每个跳跃连接结构包括的输出层中添加输入特征的恒等映射,包括:<
...【技术特征摘要】
1.一种模型参数处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括互相连接的层归一化层和全连接层,所述网络参数包括所述神经网络模型各层的权重矩阵;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:
3.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括至少一个跳跃连接结构;所述对预先训练好的神经网络模型的网络参数进行重参数化,包括:
4.根据权利要求3所述的方法,其特征在于,所述输出层包括全连接层,所述在每个跳跃连接结构包括的输出层中添加输入特征的恒等映射,包括:
5.根据权利要求3所述的方法,其特征在于,所述输出层包括非线性激活层,所述在每个跳跃连接结构包括的输出层中添加输入特征的恒等映射,包括:
6.根据权利要求3所述的方法,其特征在于,所述跳跃连接结...
【专利技术属性】
技术研发人员:王琪,
申请(专利权)人:中国移动通信有限公司研究院,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。