数据处理方法、数据处理装置及计算机可读存储介质制造方法及图纸

技术编号:32502910 阅读:26 留言:0更新日期:2022-03-02 10:12
本发明专利技术公开了一种数据处理方法、数据处理装置及计算机可读存储介质,数据处理装置包括卷积神经网络加速芯片,卷积神经网络加速芯片包括预设电路模块,方法包括:在检测到每个待处理量化数据的数据类型均为整数类型时,确定每个待处理量化数据的目标比特数;在每个待处理量化数据的目标比特数均高于预设比特数时,将每个待处理量化数据转换为至少两个第一中间数据,第一中间数据的比特数为预设比特数,预设比特数为预先设定的预设电路模块匹配的比特数;采用预设电路模块对每个第一中间数据进行处理,得到目标数据。本发明专利技术旨在解决针对整数类型的量化数据进行处理时,卷积神经网络加速芯片的功耗高、成本高的技术问题。成本高的技术问题。成本高的技术问题。

【技术实现步骤摘要】
数据处理方法、数据处理装置及计算机可读存储介质


[0001]本专利技术涉及深度学习
,尤其涉及一种数据处理方法、数据处理装置及计算机可读存储介质。

技术介绍

[0002]在深度学习技术中,量化作为一种卷积神经网络压缩技术,能有效降低算法复杂度。在不同的精度要求下,有不同的量化方式,针对整数类型(integer,INT),比如有INT8、INT16等量化方式。其中,INT8是使用8bit表示一个整数类型的数据,INT16是使用16bit表示一个整数类型的数据。
[0003]当卷积神经网络加速芯片同时具备INT8、INT16等多种量化方式卷积神经网络计算的功能时,为了简化设计复杂度,通常不同量化方式采用不同的电路模块完成不同的功能。比如:采用一个电路模块完成INT8的功能,采用另一个模块完成INT16的功能,两个电路模块独立工作,互不影响。上述方式需要两个电路模块各自占用一部分电路面积,必然导致芯片整体面积增大,从而导致针对整数类型的量化数据进行处理时,卷积神经网络加速芯片的功耗高、成本高。

技术实现思路
<br/>[0004]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,所述数据处理方法应用于数据处理装置,所述数据处理装置包括卷积神经网络加速芯片,所述卷积神经网络加速芯片包括预设电路模块,所述方法包括:在检测到每个待处理量化数据的数据类型均为整数类型时,确定每个所述待处理量化数据的目标比特数;在每个所述待处理量化数据的所述目标比特数均高于预设比特数时,将每个所述待处理量化数据转换为至少两个第一中间数据,所述第一中间数据的比特数为所述预设比特数,所述预设比特数为预先设定的所述预设电路模块匹配的比特数;采用所述预设电路模块对每个所述第一中间数据进行处理,得到目标数据。2.如权利要求1所述的方法,其特征在于,所述将每个所述待处理量化数据转换为至少两个第一中间数据的步骤包括:分别将每个所述待处理量化数据进行拆分处理,得到每个所述待处理量化数据对应的所述第一中间数据;其中,每个所述待处理量化数据对应的所述第一中间数据的数量为目标比值,所述目标比值为所述目标比特数与所述预设比特数的比值,每个所述待处理量化数据被拆分为至少两个所述第一中间数据。3.如权利要求2所述的方法,其特征在于,所述分别将每个所述待处理量化数据进行拆分处理,得到每个所述待处理量化数据对应的所述第一中间数据的步骤包括:分别从每个所述待处理量化数据的低位至高位依次取所述预设比特数的第一字符串,并将每个所述预设比特数的所述第一字符串作为所述第一中间数据;或者,分别从每个所述待处理量化数据的高位至低位依次取所述预设比特数的第二字符串,并将每个所述预设比特数的所述第二字符串作为所述第一中间数据。4.如权利要求1所述的方法,其特征在于,所述采用所述预设电路模块对每个所述第一中间数据进行处理,得到目标数据的步骤包括:采用所述预设电路模块对所述第一中间数据进行处理,得到至少两个第二中间数据,所述处理包括卷积运算处理;采用所述预设电路模块对所有所述第二中间数据进行求和,得到求和数据,将所述求和数据作为所述目标数据。5.如权利要求4所述的方法,其特征在于,所述采用所述预设电路模块对所述第一中间数据进行处理,得到至少两个第二中间数据的步骤包括:对所有所述第一中间数据进行分组,得到至少四个数据组合,每个所述数据组合中包括两个所述第一...

【专利技术属性】
技术研发人员:卢臣臣蔡权雄牛昕宇
申请(专利权)人:深圳鲲云信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1