数据处理方法、加速器、计算机设备和可读存储介质技术

技术编号:41877532 阅读:16 留言:0更新日期:2024-07-02 00:30
本申请涉及一种数据处理方法、加速器、计算机设备和可读存储介质,涉及计算机技术领域。该方法包括:按照预设移动方向对权重数据段中K个位置下的元素数据进行多次循环移动,得到K个数据序列;对K个数据序列进行排序,以使第一位置下的元素数据按照设定数值顺序进行排布;根据排序后的K个数据序列中第二位置下的元素数据,构成目标数据序列;确定权重数据段对应的目标排序标识;对目标排序标识和目标数据序列进行零游程编码,得到压缩后的权重数据段。采用本方法能够调整数据序列中零值分布情况,有效改善权重数据压缩效果,提高神经网络模型的数据交互效率,进而提高加速器计算能力。

【技术实现步骤摘要】

本申请涉及计算机,特别是涉及一种数据处理方法、加速器、计算机设备和可读存储介质


技术介绍

1、随着人工智能技术的发展,对神经网络模型的识别准确率要求不断地提高,神经网络模型的尺寸不断增加,参数量也呈指数级增长。受限于片内存储资源,现有的芯片很难把整个网络的全部参数一次性加载到片内存储中,通常的做法是采用分层分块的计算以解决片上存储资源不足的问题,但这种方式会增加片内片外的数据交互,而访存往往是限制加速器计算能力的主要瓶颈。因此,如何提高访存的效率,是提高加速器计算能力的关键问题。


技术实现思路

1、基于此,有必要针对上述技术问题,提供一种数据处理方法、加速器、计算机设备和可读存储介质,能够调整数据序列中零值分布情况,有效改善权重数据压缩效果,提高神经网络模型的数据交互效率,进而提高加速器计算能力。

2、第一方面,本申请提供了一种数据处理方法,包括:

3、确定待处理的权重数据段;权重数据段为对人工智能模型的权重数据进行划分得到的,包括k个位置下的元素数据;

<p>4、按照预设移动本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述确定待处理的权重数据段,包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求1至3中任意一项所述的方法,其特征在于,所述第一位置为所述K个位置中的首位置,所述预设移动方向为前向方向,所述第二位置为所述K个位置中的末位置。

5.根据权利要求1至3中任意一项所述的方法,其特征在于,所述第一位置为所述K个位置中的末位置,所述预设移动方向为后向方向,所述第二位置为所述K个位置中的首位置。

6.一种数据处理方法,...

【技术特征摘要】

1.一种数据处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述确定待处理的权重数据段,包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求1至3中任意一项所述的方法,其特征在于,所述第一位置为所述k个位置中的首位置,所述预设移动方向为前向方向,所述第二位置为所述k个位置中的末位置。

5.根据权利要求1至3中任意一项所述的方法,其特征在于,所述第一位置为所述k个位置中的末位置,所述预设移动方向为后向方向,所述第二位置为所述k个位置中的首位置。

6.一种数据处理方法,...

【专利技术属性】
技术研发人员:蒋雅伦旷开智曾海恩周涤非
申请(专利权)人:深圳市欧冶半导体有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1