【技术实现步骤摘要】
本专利技术实施例涉及神经网络,尤其涉及一种神经网络硬件部署组件、架构、以及多芯片神经网络硬件架构。
技术介绍
1、神经网络的边缘端部署具有重要意义,尤其那些在不可抗因素下无法连接互联网的移动端智能设备,对神经网络的嵌入式部署需求更为强烈。
2、神经网络由很多“层”连接而成,且“层”之间的连接存在灵活性、多样性特点,主要体现在除了顺序连接之外,还有多层运算结果先整合再送入一层进行加速的结构。不同的“层”连接会构成不同的网络结构,而不同的网络结构对于同一任务的作用效果有很大差别。
3、为适应神经网络结构的灵活性,大多数硬件部署工作通常只在硬件上部署一层网络,然后将网络层按顺序依次部署到这唯一一层硬件结构上分别执行加速运算。具体的,先在硬件结构上部署第一层参数,加载输入数据完成第一层运算;然后在硬件上重新加载第二层参数,加载第二层的输入数据完成第二次运算,以此类推,直到所有层运算完毕才完成一次完整的神经网络运算过程。之后才能进行第二帧输入的神经网络运算。
4、上述方式虽然可以实现各种网络连接结构。对于串连结
...【技术保护点】
1.一种神经网络硬件部署组件,其特征在于,包括N个加速模块、N个数据输入通路和N个数据输出通路;所述N个数据输入通路用于接收外部输入数据,所述N个数据输出通路与所述N个加速模块一一对应;
2.根据权利要求1所述的组件,其特征在于,所述加速模块还包括缓存单元,所述缓存单元用于存储数据输入端口的输入数据。
3.根据权利要求2所述的组件,其特征在于,所述运算单元还被配置为,当所述数据输入端口的输入数据为多个时,对所述多个输入数据进行整合,根据预设的第一运算逻辑对所述整合得到的数据进行运算,得到运算结果数据。
4.根据权利要求1-3中任意一
...【技术特征摘要】
1.一种神经网络硬件部署组件,其特征在于,包括n个加速模块、n个数据输入通路和n个数据输出通路;所述n个数据输入通路用于接收外部输入数据,所述n个数据输出通路与所述n个加速模块一一对应;
2.根据权利要求1所述的组件,其特征在于,所述加速模块还包括缓存单元,所述缓存单元用于存储数据输入端口的输入数据。
3.根据权利要求2所述的组件,其特征在于,所述运算单元还被配置为,当所述数据输入端口的输入数据为多个时,对所述多个输入数据进行整合,根据预设的第一运算逻辑对所述整合得到的数据进行运算,得到运算结果数据。
4.根据权利要求1-3中任意一项所述的组件,其特征在于,所述加速模块还包括使能端口,所述使能端口用于根据使能信号控制该加速模块的使能状态。
5.一种神经网络硬件部署架构,其特征在于,包括数据输入接口、数据输出接口和m个神经网络硬件部署组件,所述m个神经网络硬件部署组件级联连接;
6.根据权利要求5所述的架构,其特征在于,还包括总线矩阵...
【专利技术属性】
技术研发人员:张翠婷,
申请(专利权)人:北京中科格励微科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。