【技术实现步骤摘要】
融合存储器、存储系统及深度学习计算方法
本专利技术涉及人工智能
,特别是涉及一种融合存储器、存储系统及深度学习计算方法。
技术介绍
目前,普遍采用计算节点和存储节点的分层耦合架构,对数据进行深度学习计算,如图1所示。在计算节点中,部署有针对深度学习的AU(AccelerationUnit,加速处理模块),AU为通过硬件加速实现深度学习计算的芯片,例如TPU(TensorProcessingUnit,张量处理器)、GPU(GraphicsProcessingUnit,图像处理器)等,AU作为协处理器由计算节点中的CPU(CentralProcessingUnit,中央处理器)负责调度;深度学习计算所需要的待计算数据存储在存储节点中。上述计算节点与存储节点的分层耦合架构中,进行深度学习计算的流程如图2所示,数据由外部写入到存储节点;由计算节点的CPU将待计算数据从存储节点加载到计算节点,并通过计算节点的AU进行深度学习加速计算,得到深度学习计算结果。由于存储节点与计算节点之间待计算数据的搬移,易受外部环境的 ...
【技术保护点】
1.一种融合存储器,其特征在于,所述融合存储器包括:加速存储控制器及存储芯片;所述加速存储控制器,包括:处理器、数据通路模块及加速处理模块;/n所述处理器,用于根据接收到的存储命令,调度所述数据通路模块,存储外部输入的数据至所述存储命令对应的存储芯片,所述数据包括待计算数据;根据获取到的计算控制指令,按照所述计算控制指令对应的加载方式,调度所述数据通路模块,将所述待计算数据加载至所述加速处理模块;/n所述数据通路模块,用于为存储所述数据提供传输通路,以及为加载所述待计算数据提供传输通路;/n所述加速处理模块,用于通过硬件加速,对所述待计算数据进行深度学习计算;/n所述存储芯 ...
【技术特征摘要】
1.一种融合存储器,其特征在于,所述融合存储器包括:加速存储控制器及存储芯片;所述加速存储控制器,包括:处理器、数据通路模块及加速处理模块;
所述处理器,用于根据接收到的存储命令,调度所述数据通路模块,存储外部输入的数据至所述存储命令对应的存储芯片,所述数据包括待计算数据;根据获取到的计算控制指令,按照所述计算控制指令对应的加载方式,调度所述数据通路模块,将所述待计算数据加载至所述加速处理模块;
所述数据通路模块,用于为存储所述数据提供传输通路,以及为加载所述待计算数据提供传输通路;
所述加速处理模块,用于通过硬件加速,对所述待计算数据进行深度学习计算;
所述存储芯片,用于存储所述数据。
2.根据权利要求1所述的融合存储器,其特征在于,所述数据通路模块,包括:协议处理模块、存储访问模块、错误编解码模块以及存储控制模块;
所述处理器,用于根据接收到的存储命令,通过对所述协议处理模块、所述存储访问模块、所述错误编解码模块以及所述存储控制模块进行调度,存储外部输入的数据至所述存储命令对应的存储芯片。
3.根据权利要求2所述的融合存储器,其特征在于,所述存储芯片,包括:与非门型闪存芯片;所述协议处理模块,包括:存储接口协议处理模块;所述存储控制模块,包括:闪存控制层模块。
4.根据权利要求1所述的融合存储器,其特征在于,所述加速存储控制器,还包括:动态随机存储器;
所述动态随机存储器,用于缓冲所述待计算数据;
所述数据通路模块,还用于为外部输入的待计算数据缓冲至所述动态随机存储器提供传输通路;
所述处理器,具体用于在所述计算控制指令为计算与写操作的计算控制指令时,调度所述数据通路模块,将外部输入的待计算数据缓冲至所述动态随机存储器,并调度所述数据通路模块,将所述动态随机存储器中缓冲的所述待计算数据加载至所述加速处理模块。
5.根据权利要求4所述的融合存储器,其特征在于,所述数据通路模块,还用于为所述存储芯片中存储的待计算数据缓冲至所述动态随机存储器提供传输通路;
所述处理器,具体用于在所述计算控制指令为读操作与计算的计算控制指令时,调度所述数据通路模块,将所述存储芯片中存储的待计算数据缓冲至所述动态随机存储器,并调度所述数据通路模块,将所述动态随机存储器中缓冲的所述待计算数据加载至所述加速处理模块。
6.根据权利要求4或5所述的融合存储器,其特征在于,所述数据通路模块,包括:数据访问模块;
所述处理器,具体用于通过所述数据访问模块,将所述动态随机存储器中缓冲的所述待计算数据加载至所述加速处理模块。
7.根据权利要求1所述的融合存储器,其特征在于,所述加速处理模块,包括:矩阵处理模块、池化加速模块及修正线性激活加速模块;
所述矩阵处理模块,用于通过硬件加速,对所述待计算数据进行卷积计算,得到卷积结果;
所述池化加速模块,用于通过硬件加速,对所述卷积结果进行池化操作,得到池化结果;
所述修正线性激活加速模块,用于通过硬件加速,对所述卷积结果及所述池化结果进行激活函数的计算。
8.一种基于深度学习的存储系统,其特征在于,所述系统包括:核心处理器、多个融合存储器及计算结果存储器;
所述核心处理器,用于将数据输入相应的融合存储器;
所述融合存储器包括:加速存储控制器及存储芯片;所述加速存储控制器,包括:处理器、数据通路模块及加速处理模块;所述处理器,用于根据接收到的存储命令,调度所述数据通路模块,存储外部输入的数据至所述存储命令对应的存储芯片,所述数据包括待计算数据,根据获取到的计算控制指令,按照所述计算控制指令对应的加载方式,调度所述数据通路模块,将所述待计算数据加载至所述加速处理模块;所述数据通路模块,用于为存储所述数据提供传输通路,以及为加载所述待计算数据提供传输通路;所述加速处理模块,用于通过硬件加速,对所述待计算数据进行深度学习计算,得到计算结果;所述处理器,还用于输出所述计算结果至所述计算结果存储器;所述存储芯片,用于存储所述数据;
所述计算结果存储器,用于存储所述计算结果。
9.根据权利要求8所述的系统,其特征在于,所述核心处...
【专利技术属性】
技术研发人员:霍文捷,孙承华,
申请(专利权)人:武汉海康存储技术有限公司,
类型:发明
国别省市:湖北;42
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。