一种可定制化嵌入式AI模型落地软件架构系统技术方案

一种可定制化嵌入式AI模型落地软件架构系统，可定制化输入处理模块对采集到的数据进行预处理，可定制化输入处理模块根据数据类型和设计需求定制对应的预处理算法；可定制化存储处理模块用于数据存储缓存处理，存储输入、输出和中间过程的数据；可定制化AI处理模块根据预设的AI模型配置不同的AI算法进行数据处理；可定制化CPU处理模块为嵌入式功能的处理器，可定制化CPU处理模块根据不同的嵌入式功能定制不同的CPU处理器；可定制化输出处理模块将数据处理后的结果输出到显示器显示或指定设备对象使用。本发明专利技术成本低，灵活性大，能够满足更多的嵌入式专一场景和应用需求，实现实时嵌入式处理和实时本地AI处理能力。时嵌入式处理和实时本地AI处理能力。时嵌入式处理和实时本地AI处理能力。

【技术实现步骤摘要】
一种可定制化嵌入式AI模型落地软件架构系统


[0001]本专利技术涉及嵌入式人工智能
，具体涉及一种可定制化嵌入式AI模型落地软件架构系统。

技术介绍

[0002]嵌入式人工智能实现软件算法时，一般使用传统的嵌入式设备完成嵌入式功能，再加一个AI协处理器来完成人工智能算法，而协处理器一般由GPU或者AI芯片来完成，虽然也有通用的AI芯片，但在功能较专一，单一的小型嵌入式设备上并不适用。嵌入式处理器和AI处理器彼此分工独立，拥有自己独立的内存、输入、输出处理，彼此再通过软件接口通信完成实时的数据传输。这样实现的嵌入式人工智能软件开发要求高，开发成本也高，同时，应对不同的需求，后期修改软件也相对复杂，不仅要修改AI处理算法的实现，还要修改嵌入式设备与AI处理器的通信及数据处理等。
[0003]现阶段，虽然可以同时实时完成嵌入式功能和人工智能算法，但是需要增加额外的嵌入式处理器与AI处理器之间的通信软件，导致没有充分结合嵌入式功能和AI功能，同时也增加了成本，而且一旦场景需求改动较大，这种软件架构就不再适用，需要用新的架构和通信接口。

技术实现思路

[0004]为此，本专利技术提供一种可定制化嵌入式AI模型落地软件架构系统，解决现有嵌入式人工智能软件架构存在的成本高、应用专一，不适合多场景、多需求的问题。
[0005]为了实现上述目的，本专利技术提供如下技术方案：一种可定制化嵌入式AI模型落地软件架构系统，包括可定制化输入处理模块、可定制化存储处理模块、可定制化AI处理模块、可定制化CPU处理模块和可定制化输出处理模块；
[0006]所述可定制化输入处理模块对采集到的数据进行预处理，可定制化输入处理模块根据数据类型和设计需求定制对应的预处理算法；
[0007]所述可定制化存储处理模块用于数据存储缓存处理，可定制化存储处理模块存储输入、输出和中间过程的数据；
[0008]所述可定制化AI处理模块根据预设的AI模型配置不同的AI算法，可定制化AI处理模块通过AI模型配置的AI算法进行数据处理；
[0009]所述可定制化CPU处理模块为嵌入式功能的处理器，可定制化CPU处理模块根据不同的嵌入式功能定制不同的CPU处理器；
[0010]所述可定制化输出处理模块用于将数据处理后的结果输出到显示器显示或指定设备对象使用。
[0011]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块、可定制化存储处理模块、可定制化AI处理模块、可定制化CPU处理模块和可定制化输出处理模块由集成在一块PCB上的一个处理器IC芯片实现。
[0012]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述处理器IC芯片采用ZYNQ型号的SOC FPGA或嵌入式AI SOC。
[0013]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块由ZYNQ中可编程的PL进行定制化；
[0014]所述可定制化存储处理模块由ZYNQ中本地存储和外部DDR组成；
[0015]所述可定制化AI处理模块由ZYNQ中可配置的PL进行定制化；
[0016]所述可定制化CPU处理模块由ZYNQ中可配置的PS进行定制化；
[0017]所述可定制化输出处理模块由ZYNQ中可配置的PL或PS实现。
[0018]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块通过摄像头采集图像数据；所述可定制化存储处理模块配置有DDR接口；所述可定制化CPU处理模块配置有I2C接口；所述可定制化输出处理模块配置有HDMI输出接口。
[0019]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块由SOC FPGA中可编程的逻辑定制化；
[0020]所述可定制化存储处理模块由SOC FPGA中本地存储和外部DDR组成；
[0021]所述可定制化AI处理模块由SOC FPGA中可配置的逻辑对运算模块进行定制化；
[0022]所述可定制化CPU处理模块由SOC FPGA中ARM处理器进行定制化；
[0023]所述可定制化输出处理模块由SOC FPGA中可配置的ARM处理器外设实现。
[0024]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块通过摄像头采集图像数据；所述可定制化存储处理模块配置有DDR接口；所述可定制化CPU处理模块配置有I2C或网络接口；所述可定制化输出处理模块配置有HDMI输出接口。
[0025]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化CPU处理模块采用硬核处理器，所述硬核处理器为ARM。
[0026]作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化CPU处理模块采用FPGA实现的软核处理器，所述软核处理器采用RISC
‑
V。
[0027]本专利技术具有如下优点：设有可定制化输入处理模块、可定制化存储处理模块、可定制化AI处理模块、可定制化CPU处理模块和可定制化输出处理模块；可定制化输入处理模块对采集到的数据进行预处理，可定制化输入处理模块根据数据类型和设计需求定制对应的预处理算法；可定制化存储处理模块用于数据存储缓存处理，可定制化存储处理模块存储输入、输出和中间过程的数据；可定制化AI处理模块根据预设的AI模型配置不同的AI算法，可定制化AI处理模块通过AI模型配置的AI算法进行数据处理；可定制化CPU处理模块为嵌入式功能的处理器，可定制化CPU处理模块根据不同的嵌入式功能定制不同的CPU处理器；可定制化输出处理模块用于将数据处理后的结果输出到显示器显示或指定设备对象使用。本专利技术大大降低了开发成本，能够满足更多的嵌入式专一场景和应用需求，可以同时实现实时嵌入式处理和实时本地AI处理能力，嵌入式处理可定制实现丰富的外部接口，可以充分利用硬件资源的本地存储和外部存储来实现高效的数据存储，同时后期软件升级，只需要对共用的内存处理器接口进行定制化。
附图说明
[0028]为了更清楚地说明本专利技术的实施方式或现有技术中的技术方案，下面将对实施方
式或现有技术描述中所需要使用的附图作简单地介绍。显而易见地，下面描述中的附图仅仅是示例性的，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图引伸获得其它的实施附图。
[0029]本说明书所绘示的结构、比例、大小等，均仅用以配合说明书所揭示的内容，以供熟悉此技术的人士了解与阅读，并非用以限定本专利技术可实施的限定条件，故不具技术上的实质意义，任何结构的修饰、比例关系的改变或大小的调整，在不影响本专利技术所能产生的功效及所能达成的目的下，均应仍落在本专利技术所揭示的
技术实现思路
能涵盖的范围内。
[0030]图1为本专利技术实施例中提供的可定制化嵌入式AI模型落地软件架构系统示意图；
[0031]图2为本专利技术实施例中提供的可定制化嵌入式AI模本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种可定制化嵌入式AI模型落地软件架构系统，其特征在于，包括可定制化输入处理模块(1)、可定制化存储处理模块(2)、可定制化AI处理模块(3)、可定制化CPU处理模块(4)和可定制化输出处理模块(5)；所述可定制化输入处理模块(1)对采集到的数据进行预处理，可定制化输入处理模块(1)根据数据类型和设计需求定制对应的预处理算法；所述可定制化存储处理模块(2)用于数据存储缓存处理，可定制化存储处理模块(2)存储输入、输出和中间过程的数据；所述可定制化AI处理模块(3)根据预设的AI模型配置不同的AI算法，可定制化AI处理模块(3)通过AI模型配置的AI算法进行数据处理；所述可定制化CPU处理模块(4)为嵌入式功能的处理器，可定制化CPU处理模块(4)根据不同的嵌入式功能定制不同的CPU处理器；所述可定制化输出处理模块(5)用于将数据处理后的结果输出到显示器显示或指定设备对象使用。2.根据权利要求1所述的一种可定制化嵌入式AI模型落地软件架构系统，其特征在于，所述可定制化输入处理模块(1)、可定制化存储处理模块(2)、可定制化AI处理模块(3)、可定制化CPU处理模块(4)和可定制化输出处理模块(5)由集成在一块PCB上的一个处理器IC芯片实现。3.根据权利要求2所述的一种可定制化嵌入式AI模型落地软件架构系统，其特征在于，所述处理器IC芯片采用ZYNQ型号的SOC FPGA或嵌入式AI SOC。4.根据权利要求3所述的一种可定制化嵌入式AI模型落地软件架构系统，其特征在于，所述可定制化输入处理模块(1)由ZYNQ中可编程的PL进行定制化；所述可定制化存储处理模块(2)由ZYNQ中本地存储和外部DDR组成；所述可定制化AI处理模块(3)由ZYNQ中可配置的PL进行定制化；所述可定制化CPU处理模块(4)...

【专利技术属性】
技术研发人员：李卫东，刘平涛，罗博文，张招，
申请(专利权)人：武汉莱克斯瑞科技发展有限公司，
类型：发明
国别省市：