数据处理方法和装置、芯片、设备及存储介质制造方法及图纸

技术编号:40143175 阅读:20 留言:0更新日期:2024-01-23 23:56
本申请公开了一种数据处理方法和装置、芯片、设备及存储介质,其中,该数据处理装置包括NPU,NPU包括计算模块和数据操作模块,该数据处理方法包括:在执行数据处理任务时,通过数据操作模块将数据处理任务对应的资源匹配信息同步至计算模块;其中,数据处理任务至少包括第一线程和第二线程;资源匹配信息表征第一线程和第二线程对应的数据搬运操作是否完成;通过计算模块基于资源匹配信息执行第一线程或第二线程对应的计算操作;从而能顾兼通用性和硬件利用率,有效提升了数据处理的效率和性能。

【技术实现步骤摘要】

本专利技术涉及数据处理,尤其涉及一种数据处理方法和装置、芯片、设备及存储介质


技术介绍

1、神经网络处理器(neural processing unit,npu)是一种专门用于进行深度学习计算的芯片。它是近年来人工智能领域的热门技术之一,被广泛应用于各种人工智能应用中,如自动驾驶、人脸识别、智能语音等领域。

2、为了达到硬件利用率高这个目的,常见的做法主要包括两种,一种是编译器优化结合硬件循环级同步,另一种是通过多线程实现。其中,编译器优化结合硬件循环级同步的方式没有通用性可言,而通过多线程实现的方式无法解决计算资源和数据资源不匹配的问题。

3、可见,常见的数据处理方法,无法兼顾通用性和硬件利用率,从而限制了数据处理的效率和性能。


技术实现思路

1、本申请实施例提供了一种数据处理方法和装置、芯片、设备及存储介质,能顾兼通用性和硬件利用率,有效提升了数据处理的效率和性能。

2、本申请实施例的技术方案是这样实现的:

3、第一方面,本申请实施例提供了一种数据处理方法本文档来自技高网...

【技术保护点】

1.一种应用于数据处理装置的数据处理方法,其特征在于,所述数据处理装置包括神经网络处理单元NPU,所述NPU包括计算模块和数据操作模块,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,所述方法还包括:

4.根据权利要求2所述的方法,其特征在于,所述通过所述计算模块基于所述资源匹配信息执行所述第一线程或所述第二线程对应的计算操作,包括:

5.根据权利要求3所述的方法,其特征在于,所述通过所述计算模块基于所述资源匹配信息执行所述第一线程或所述第二线程对应的计算操作,包括:...

【技术特征摘要】

1.一种应用于数据处理装置的数据处理方法,其特征在于,所述数据处理装置包括神经网络处理单元npu,所述npu包括计算模块和数据操作模块,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,所述方法还包括:

4.根据权利要求2所述的方法,其特征在于,所述通过所述计算模块基于所述资源匹配信息执行所述第一线程或所述第二线程对应的计算操作,包括:

5.根据权利要求3所述的方法,其特征在于,所述通过所述计算模块基于所述资源匹配信息执行所述第一线程或所述第二线程对应的计算操作,包括:

6.根据权利要求2-5任一项所述的方法,其特征在于,

7.根据权利要求2-5任一项所述的方法,其特征在于,所...

【专利技术属性】
技术研发人员:周华民
申请(专利权)人:上海芯高峰微电子有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1