数据处理电路、数据处理方法及相关产品技术

技术编号:33990858 阅读:29 留言:0更新日期:2022-07-02 09:39
本披露公开了一种数据处理电路、数据处理方法及相关产品。该数据处理电路可以实现为计算装置包括在组合处理装置中,该组合处理装置还可以包括接口装置和其他处理装置。该计算装置与其他处理装置进行交互,共同完成用户指定的计算操作。组合处理装置还可以包括存储装置,该存储装置分别与计算装置和其他处理装置连接,用于存储该计算装置和其他处理装置的数据。本披露的方案提供了用于与结构化稀疏相关操作的硬件实现,其可以简化处理,提高机器的处理效率。处理效率。处理效率。

【技术实现步骤摘要】
数据处理电路、数据处理方法及相关产品


[0001]本披露一般地涉及处理器领域。更具体地,本披露涉及数据处理电路、使用数据处理电路来处理数据的方法、芯片和板卡。

技术介绍

[0002]近年来,随着深度学习的迅猛发展,使得计算机视觉、自然语言处理等一系列领域的算法性能都有了跨越式的进展。然而深度学习算法是一种计算密集型和存储密集型的工具,随着信息处理任务的日趋复杂,对算法实时性和准确性要求不断增高,神经网络往往会被设计得越来越深,使得其计算量和存储空间需求越来越大,导致现存的基于深度学习的人工智能技术难以直接应用在硬件资源受限的手机、卫星或嵌入式设备上。
[0003]因此,深度神经网络模型的压缩、加速、优化变得格外重要。大量的研究试着在不影响模型精度的前提下,减少神经网络的计算和存储需求,对深度学习技术在嵌入端、移动端的工程化应用具有十分重要的意义。稀疏化正是模型轻量化方法之一。
[0004]网络参数稀疏化是通过适当的方法减少较大网络中的冗余成分,以降低网络对计算量和存储空间的需求。现有的硬件和/或指令集不能有效地支持稀疏化处理。<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理电路,包括控制电路、存储电路和运算电路,其中:所述控制电路配置用于控制所述存储电路和所述运算电路以对至少一个张量数据的一个维度进行结构化稀疏处理;所述存储电路配置用于存储信息,所述信息至少包括稀疏化前和/或稀疏化后的信息;以及所述运算电路配置用于在所述控制电路的控制下,对所述张量数据的一个维度进行结构化稀疏处理。2.根据权利要求1所述的数据处理电路,其中所述运算电路包括结构化稀疏电路,配置用于根据稀疏规则,从输入数据的待稀疏维度的每m个数据元素中选择n个数据元素作为有效数据元素,其中m&gt;n。3.根据权利要求2所述的数据处理电路,其中所述结构化稀疏电路包括:第一结构化稀疏子电路,配置用于按照指定的稀疏掩码对输入数据执行结构化稀疏处理。4.根据权利要求2或3所述的数据处理电路,其中所述结构化稀疏电路包括:第二结构化稀疏子电路,配置用于按照预定的稀疏规则对输入数据执行结构化稀疏处理。5.根据权利要求3或4所述的数据处理电路,其中所述至少一个张量数据包括第一数据,所述运算电路配置用于:利用第一结构化稀疏子电路,将已结构化稀疏处理的第二数据对应的索引部分作为稀疏掩码,对所述第一数据执行结构化稀疏处理,其中所述索引部分指示将要执行的结构化稀疏中有效数据元素的位置。6.根据权利要求5所述的数据处理电路,其中:所述已结构化稀疏处理的第二数据是在线预先或离线进行结构化稀疏处理并存储在所述存储电路中的,或者所述已结构化稀疏处理的第二数据是在线利用所述第二结构化稀疏子电路进行结构化稀疏处理而生成的。7.根据权利要求5

6任一所述的数据处理电路,其中所述运算电路还包括:卷积电路,其配置用于对已结构化稀疏处理的第一数据和第二数据执行卷积操作。8.根据权利要求5

7任一所述的数据处理电路,其中所述已结构化稀疏处理的第二数据为结构体形式,所述结构体包括相互绑定的数据部分和索引部分,所述数据部分包括已结构化稀疏处理后的有效数据元素,所述索引部分用于指示稀疏化后的数据在稀疏化前数据中的位置。9.根据权利要求4

8任一所述的数据处理电路,其中所...

【专利技术属性】
技术研发人员:ꢀ七四专利代理机构
申请(专利权)人:中科寒武纪科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1