一种电子设备、生成输出数据的方法及机器可读存储介质技术

本发明专利技术提供电子设备、生成输出数据的方法及包括程序代码的机器可读存储介质。实施本发明专利技术实施例可提高执行模型的效率。本发明专利技术提供的电子设备可包括至少两个处理电路；以及平台模块，该平台模块被配置为接收模型和输入数据，分析该模型以获得该模型的图分割尺寸，根据该图分割尺寸将该模型分割为多个图，以及将该多个图分别部署到至少两个处理电路，其中分割后的每个图包括该模型的一部分操作；该至少两个处理电路执行该多个图来生成输出数据。处理电路执行该多个图来生成输出数据。处理电路执行该多个图来生成输出数据。

【技术实现步骤摘要】
一种电子设备、生成输出数据的方法及机器可读存储介质


[0001]本专利技术涉及电子
，特别涉及一种电子设备、生成输出数据的方法及机器可读存储介质。

技术介绍

[0002]近来，诸如个人计算器、笔记本计算机或手机之类的电子设备通常具有两个或更多个处理器用于执行不同的任务。然而，当人工智能(Artificial Intelligence，AI)模型等复杂模型运行时，需要准确、快速的结果，如何使用上述处理器来执行这样的模型成为问题。例如，如果电子设备包括中央处理单元(Central Processing Unit，CPU)、图形处理单元(Graphics Processing Unit，GPU)和视觉处理单元(Vision Processing Unit，VPU)，但只有CPU被安排执行整个模型，则GPU和VPU可能没有得到充分利用，由此可能会导致CPU过载，且处理时间可能过长。在另一种情况下，大多数模型都由一个处理器(例如CPU)执行，而其他处理器仅用于执行CPU不支持的操作，因此这些其他处理器可能有很多空闲时间。
>
技术实现思路
...

【技术保护点】

【技术特征摘要】
1.一种电子设备，其特征在于，包括：至少两个处理电路；以及平台模块，该平台模块被配置为接收模型和输入数据，分析该模型以获得该模型的图分割尺寸，根据该图分割尺寸将该模型分割为多个图，以及将该多个图分别部署到该至少两个处理电路，其中分割后的每个图包括该模型的一部分操作；该至少两个处理电路执行该多个图来生成输出数据。2.如权利要求1所述的电子设备，其特征在于，该模型对于该电子设备内的该至少两个处理电路而言是未知的模型。3.如权利要求1所述的电子设备，其特征在于，该模型是人工神经网络模型。4.根据权利要求1所述的电子设备，其特征在于，该至少两个处理电路包括中央处理单元、图形处理单元、视觉处理单元和深度学习加速器中的至少两个。5.如权利要求1所述的电子设备，其特征在于，该平台模块分析该模型以获得该模型的图分割尺寸时，被配置为：使用梯度提升模型来估计该模型以获得该模型的图分割尺寸。6.如权利要求1所述的电子设备，其特征在于，该平台模块分析该模型以获得该模型的图分割尺寸时，被配置为：估计该模型以获得估计的存储器使用量和预测的运行时间；和根据该估计的存储器使用量和该预测的运行时间生成该图分割尺寸。7.如权利要求1所述的电子设备，其特征在于，该平台模块分析该模型以获得该模型的图分割尺寸时，被配置为：根据先前执行该模型时获得的该模型的先前估计性能与该模型的先前实际性能之间的差异，生成该模型的预测误差；根据该预测误差更新先前的图分割尺寸以生成该图分割尺寸。8.如权利要求7所述的电子设备，其特征在于，该模型的该先前估计性能和该先前实际性能分别是该模型的先前估计的存储器使用量和先前实际存储器使用量；或者该模型的该先前估计性能和先前实际性能分别是该模型的先前估计的运行时间和先前实际运行时间。9.如权利要求1
‑
8中任一项所述的电子设备，其特征在于，该平台模块为实施于该电子设备中的软件平台。10.如权利要求1
‑
8中任一项所述的电子设备，其特征在于，该平台模块实施于该电子设备中的该至少两个处理器电路之一中。11.一种生成输出数据的方法，其特征在于，包括：接收模型和输入数据；分析该模型以获得该模型的图分割尺寸；根据该图分割尺寸将该模型分割为多个图，其中分割后的每个图包括该模型的一部分操作；将该多个图分别部署到至少两个处理电路；和根据该至少两个处理电路执行多个图的结果生成输出数据。
12.如权利要求11所述的生成输出数据的方法，其特征在于，该模型对于该至少两个处理电路而言是未知的模型。13...

【专利技术属性】
技术研发人员：王伟同，谢沛圻，张紘睿，张书鑫，林宗瑶，
申请(专利权)人：联发科技股份有限公司，
类型：发明
国别省市：