神经网络模型的量化方法和装置、数据处理的方法和装置制造方法及图纸

技术编号:34005033 阅读:12 留言:0更新日期:2022-07-02 13:08
一种神经网络模型量化方法与装置,以及数据处理方法与装置,属于人工智能领域。原始神经网络模型包括第一算子、第二算子和第一运算模块,第一运算模块用于对第一算子的输出和第二算子的输出进行运算,神经网络模型量化方法包括:根据第一算子的第一训练输入数据的范围和第二算子的第二训练输入数据的范围,确定数据量化参数;确定量化后的神经网络模型,量化后的神经网络模型利用数据量化参数分别对量化后的第一算子的第一输入数据、量化后的第二算子第二输入数据进行量化。量化后的第一算子的处理结果与量化后的第二算子的处理结果可以直接进行运算,在提高神经网络模型的数据处理精度的同时,提高了数据处理效率。提高了数据处理效率。提高了数据处理效率。提高了数据处理效率。

【技术实现步骤摘要】
【国外来华专利技术】

【技术保护点】

【技术特征摘要】
【国外来华专利技术】

【专利技术属性】
技术研发人员:昌晶连朔孙方轩王晨曦周君
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1