一种数据缓存装置制造方法及图纸

本申请公开一种数据缓存装置，适用于边缘人工智能AI，包括：由现场可编程门阵列(FPGA)逻辑实现的硬件加速器单元和缓存单元；其中，缓存单元设置为：硬件加速器单元运行第i‑1层AI模型的推断时，缓存该第i‑1层AI模型推断获得的中间数据；将缓存的第i‑1层AI模型推断获得的中间数据输出至第i层AI模型；硬件加速器单元设置为：运行第i‑1层AI模型的推断；根据第i‑1层AI模型推断获得的中间数据运行第i层AI模型的推断；其中，i大于或等于2，且小于或等于AI模型的层级总数。本公开实施例通过缓存单元缓存AI模型运行推断的中间数据，避免中间数据对微控制器处理单元(MCU)内存的占用，提升了边缘AI可处理的模型规模。

【技术实现步骤摘要】

本申请涉及但不限于数据处理技术，其中涉及一种数据缓存装置。

技术介绍

1、边缘人工智能(ai)指在物理世界设备中部署ai应用，之所以被称为边缘ai，是因为它在靠近用户和数据的网络边缘进行ai计算，而不是集中在云计算设施或私人数据中心。由于互联网覆盖全球，因此网络边缘可以触及任何地点，例如零售店、工厂、医院，或者交通灯、自主机器和电话等设备。边缘ai通常指运行在微控制器处理单元(mcu)中的ai系统，ai系统的前端包含用于实现一种以上包括识别处理功能的ai模型，考虑到成本问题，mcu一般内存较小，功耗较低，适用于边缘ai的载体；由于mcu的内存较小，所以搭载边缘ai时，ai模型的规模不能太大，否则，ai模型在执行ai推断过程中的数据，会超出mcu内存而溢出；综上，由于mcu内存溢出问题，限制了ai模型的应用场景。

技术实现思路

1、以下是对本申请详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。

2、本公开实施例提供一种数据缓存装置，能够提升边缘ai的处理的模型规模。

3、本本文档来自技高网...

【技术保护点】

1.一种数据缓存装置，适用于边缘人工智能AI，其特征在于，包括：由现场可编程门阵列FPGA逻辑实现的硬件加速器单元和缓存单元；其中，

2.根据权利要求1所述的数据缓存装置，其特征在于，所述边缘AI包括：

3.根据权利要求1所述的数据缓存装置，其特征在于，所述MCU设置为：

4.根据权利要求1所述的数据缓存装置，其特征在于，所述缓存单元包括：以伪静态随机存储器PSRAM作为存储介质构建的用于缓存所述中间数据的单元。

5.根据权利要求1至4任一项所述的数据缓存装置，其特征在于，所述硬件加速器单元通过预先设定的总线与所述MCU连接，包含预先设置的...

【技术特征摘要】

1.一种数据缓存装置，适用于边缘人工智能ai，其特征在于，包括：由现场可编程门阵列fpga逻辑实现的硬件加速器单元和缓存单元；其中，

2.根据权利要求1所述的数据缓存装置，其特征在于，所述边缘ai包括：

3.根据权利要求1所述的数据缓存装置，其特征在于，所述mcu设置为：

4.根据权利要求1所述的数据缓存装置，其特征在于，所述缓存单元包括：以伪静态随机存储器psram作为...

【专利技术属性】
技术研发人员：杜金凤，刘锴，宋宁，
申请(专利权)人：广东高云半导体科技股份有限公司，
类型：发明
国别省市：