一种跨平台数据分析方法技术

技术编号:32494122 阅读:24 留言:0更新日期:2022-03-02 10:01
本发明专利技术涉及一种跨平台数据分析方法,通过加速器结构层增设用户推理接口,解决了边缘硬件架构多、模型加速部署成本高问题;相比传统方法模型边缘部署过程中的格式转换过程,明显提高了开发效率;有效降低了边缘设备后期AI推理代码维护成本。理代码维护成本。理代码维护成本。

【技术实现步骤摘要】
一种跨平台数据分析方法


[0001]本专利技术涉及图像处理
,具体是指一种跨平台数据分析方法。

技术介绍

[0002]不同的平台在进行图像处理的时候,需要进行不同平台系统的搭建,这就导致了边缘硬件架构多和模型加速部署成本高的问题。而本申请提供跨平台数据分析方法,相比传统方法模型边缘部署过程中的格式转换过程,明显提高了开发效率。最后,有效降低了边缘设备后期AI推理代码维护成本。

技术实现思路

[0003]本专利技术提供一种跨平台数据分析方法,解决了边缘硬件架构多、模型加速部署成本高问题。
[0004]为解决上述技术问题,本专利技术提供的技术方案为:
[0005]一种跨平台数据分析方法,所述跨平台数据分析方法基于AI图像推理加速器系统完成,所述AI图像推理加速器系统包括上层调用层、加速器结构层、加速库构架层和硬件加速结构层;所述跨平台数据分析方法包括以下具体步骤:
[0006]1)首先AI图像推理加速器系统通过上层调用层获取数据进行深度学习,判断数据是否为图像,如果是图像学习任务则进行下一步,如果否,则本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种跨平台数据分析方法,其特征在于:所述跨平台数据分析方法基于AI图像推理加速器系统完成,所述AI图像推理加速器系统包括上层调用层、加速器结构层、加速库构架层和硬件加速结构层;所述跨平台数据分析方法包括以下具体步骤:1)首先AI图像推理加速器系统通过上层调用层获取数据进行深度学习,判断数据是否为图像,如果是图像学习任务则进行下一步,如果否,则结束;2)得到图像学习任务后,进行任务拆解,针对不同学习类型送入不同深度学习模型进行匹配推理;同时进行图像解码和通信机制解码,获取图像输入数据解码通信类型、图像解码格式和图像解码方式;3)任务拆解后,进入通用推理精度适配阶段,设置通过32位单精或16位半精完成推理,而图像解码后会进行推理聚合,将用户输入的推理任务进行推理作业智能聚合;4)框架适配后对于不同硬件平台,通过资源调度完成GPU显存资源初始化/释放管理;而推理聚合的图像在推理模型加载后,需要将图像解码到内存单元,然后内存数据负责将数据交换到GPU现存中,完成各个加速框架的数据交换通用抽象;5)资源分配调度及数据交换后完成GPU推理。2.根据权利要求1所...

【专利技术属性】
技术研发人员:李浩澜陈首信段勃杨东鑫谭光明王佩
申请(专利权)人:中科计算技术西部研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1