深度学习模型的获取方法、加载方法及选取方法技术

技术编号:26790324 阅读:30 留言:0更新日期:2020-12-22 17:05
本申请提供了一种深度学习模型的获取方法、加载方法、选取方法、系统、电子设备及服务器。所述获取方法包括:电子设备响应于目标应用程序的启动指令,生成模型获取请求,并将模型获取请求发送至服务器;模型获取请求中携带有电子设备中至少两个数据处理器的硬件性能参数;服务器根据至少两个数据处理器的硬件性能参数,确定目标数据处理器,获取目标数据处理器对应的目标深度学习模型,并将目标深度学习模型发送至电子设备;电子设备接收并加载目标深度学习模型;目标深度学习模型是与目标应用程序实现的功能关联的模型。本申请能充分利用电子设备的数据处理器的性能参数,提高深度学习算法的运行速度和用户体验。

【技术实现步骤摘要】
深度学习模型的获取方法、加载方法及选取方法
本申请涉及深度学习模型处理
,特别是涉及一种深度学习模型的获取方法、加载方法、选取方法、系统、电子设备及服务器。
技术介绍
近年来,深度学习开始火热,但是其计算量确非常大,因此深度学习要部署在移动端困难重重,目前深度学习的推理引擎都会对深度学习的各种算子进行加速,例如,1、针对arm架构CPU(CentralProcessingUnit,中央处理器)的neon指令集加速;2、针对GPU(GraphicsProcessingUnit,图形处理器)的加速;3、针对高通DSP(DigitalSignalProcessing,数值信号处理)芯片的加速,针对华为NPU的加速等等。目前Android机器碎片化特别严重,不同的手机硬件性能各不相同。在某些手机上GPU的速度明显要快于CPU,DSP的速度要明显快于GPU。而且利用CPU进行深度学习的推理,其功耗也非常高。但是为了兼容性,目前大部分的做法是,只加载能跑在通用CPU上的模型,这明显不能充分利用移动端的硬件性能,造成浪费。而且即便是做动态模型更本文档来自技高网...

【技术保护点】
1.一种深度学习模型的获取方法,其特征在于,所述方法适用于系统,所述方法包括:/n电子设备响应于目标应用程序的启动指令,生成模型获取请求,并将所述模型获取请求发送至服务器;所述模型获取请求中携带有所述电子设备中至少两个数据处理器的硬件性能参数;/n所述服务器根据所述至少两个数据处理器的硬件性能参数,确定目标数据处理器,获取所述目标数据处理器对应的目标深度学习模型,并将所述目标深度学习模型发送至所述电子设备;/n所述电子设备接收并加载所述目标深度学习模型;/n其中,所述目标深度学习模型是与所述目标应用程序实现的功能关联的模型。/n

【技术特征摘要】
1.一种深度学习模型的获取方法,其特征在于,所述方法适用于系统,所述方法包括:
电子设备响应于目标应用程序的启动指令,生成模型获取请求,并将所述模型获取请求发送至服务器;所述模型获取请求中携带有所述电子设备中至少两个数据处理器的硬件性能参数;
所述服务器根据所述至少两个数据处理器的硬件性能参数,确定目标数据处理器,获取所述目标数据处理器对应的目标深度学习模型,并将所述目标深度学习模型发送至所述电子设备;
所述电子设备接收并加载所述目标深度学习模型;
其中,所述目标深度学习模型是与所述目标应用程序实现的功能关联的模型。


2.一种深度学习模型的加载方法,其特征在于,所述方法适用于电子设备,所述方法包括:
在接收到目标应用程序的启动指令之后,生成模型获取请求;所述模型获取请求中携带有至少两个数据处理器的硬件性能参数;
将所述模型获取请求发送至服务器;
接收并加载所述服务器根据所述硬件性能参数获取的目标数据处理器对应的目标深度学习模型。


3.根据权利要求2所述的方法,其特征在于,所述在接收到目标应用程序的启动指令之后,生成模型获取请求,包括:
在接收到所述启动指令之后,获取所述电子设备支持的至少两个数据处理器;
通过所述至少两个数据处理器中分别运行相同的测试模型;
根据运行结果,获取所述至少两个数据处理器的硬件性能参数;
根据所述硬件性能参数,生成所述模型获取请求。


4.根据权利要求3所述的方法,其特征在于,所述根据运行结果,获取所述至少两个数据处理器的硬件性能参数,包括:
获取所述至少两个数据处理器运行所述测试模型的运行时间;
根据所述运行时间,确定所述至少两个数据处理器的硬件性能参数。


5.一种深度学习模型的选取方法,其特征在于,所述方法适用于服务器,所述方法包括:
获取电子设备的至少两个数据处理器对应的硬件性能参数;
根据所述至少两个数据处理器的硬件性能参数对应的排序结果,确定所述至少两个数据处理器中的目标数据处理器;
获取所述目标数据处理器对应的目标深度学习模型,并将所述目标深度学习模型发送至所述电子设备。


6.根据权利要求5所述的方法,其特征在于,所述根据所述至少两个数据处理器的硬件性能参数对应的排序结果,确定所述至少两个数据处理器中的目标数据处理器,包括:
根据所述排序结果,从所述至少两个数据处理器中筛选出硬件性能参数最大的第一数据处理器,并将所述第一数据处理器作为所述目标数据处理器。


7.根据权利要求5所述的方法,其特征在于,所述根据所述排序结果,从所述至少两个数据处理器中筛选出硬件性能参数最大的第一数据处理器,并将所述第一数据处理器作为所述目标数据...

【专利技术属性】
技术研发人员:尹逊宫
申请(专利权)人:北京奇艺世纪科技有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1