计算调度方法、计算执行方法以及相关设备技术

本发明专利技术提供一种计算调度方法，从镜像库中获取目标镜像，镜像库中的镜像为由执行设备的所确定的执行文件以及算法模型文件打包得到；将目标镜像进行容器化启动得到算法容器实例，并建立执行设备与算法容器实例代理关系；通过算法容器实例向执行设备发送对应的计算执行请求参数，以使执行设备根据计算执行请求参数执行对应的目标计算任务。通过将执行设备相关的执行文件以及算法模型文件打包成镜像，以镜像的形式统一各个执行设备的算法版本文件形态，通过容器代理服务对各个设备进行容器化管理，实现不同执行设备间所有算法在全容器化运行形式上的统一，使得各个执行设备以统一的运行形式进行算法调度和计算，提高算法计算的调度效率。度效率。度效率。

【技术实现步骤摘要】
计算调度方法、计算执行方法以及相关设备


[0001]本专利技术涉及计算机领域，尤其涉及一种计算调度方法、计算执行方法以及相关设备。

技术介绍

[0002]目前各种人工智能算法、以深度学习为主要技术路线算法被越来越广泛地应用于各种各样的场景，解决越来越广泛的问题，给社会发展、生活等带来越来越多的安全、便利、效率，其中承载深度学习算法计算的平台也越来越多样化。
[0003]早期由于深度学习算法本身的复杂性以及对于算力的巨大需求，再加上初期处理器算力的能力限制，初期只有在云端服务器级别CPU/GPU才具备运行深度学习算法的能力，之后随着深度学习算法理论的发展以及深度学习算力器件的发展，带来了如下两个变化，第一个变化是深度学习的模型的结构丰富化以及模型算法需求的弹性化，这些变化使深度学习的模型的算力需求在最低需求的限度上具备了更强的适应性；第二个变化是提供深度学习的算力器件也得到了迅猛的发展，越来多来芯片都优化或集成了对于深度学习指令集支持或专用的深度学习模型专用IP，使得处理器本身在算力的供给以及对于深度学习的模型的运算效率上都得到了极大的提升。
[0004]上述两个变化的结合使得深度学习的计算扩展至多层次、多类型的设备上，比如终端设备、边缘设备以及云端设备，但随着可运行可支持深度学习的器件/设备的多样化，复杂化，一个重要的问题便也随之复杂化，这个问题就最是对于多样化的、多层次设备的统一调度和数据的回调获取问题。比如，对于版本形态，云端设备主要用容器化的镜像、边缘的设备一般用一键安装或升级包、终端的设备一般用Firmware形态的可烧写的固件，由于版本形态的不同，具体的实施方案也非常不同，进一步导致了运行的模式、数据回调汇集的模式的方式的不同，进而使得端、边、云不同算力平台的在版本形态、调度方式和方案、数据的回调收集等方面的不同，最终的结果是端、边、云的算法无法在统一的标准内进行相互之间的协调，相互之间呈割裂状态，因此，现有的算法计算平台存在调度效率不高的问题。

技术实现思路

[0005]本专利技术实施例提供一种计算调度方法，旨在解决现有的算法计算平台存在调度效率不高的问题。通过将执行设备相关的执行文件以及算法模型文件打包成镜像，以镜像的形式统一各个执行设备的算法版本文件形态，通过容器代理服务对各个设备进行容器化管理，实现不同执行设备间所有算法在全容器化运行形式上的统一，使得各个执行设备以统一的运行形式进行算法调度和计算，提高算法计算的调度效率。
[0006]第一方面，本专利技术实施例提供一种计算调度方法，应用于容器代理设备，所述计算调度方法包括：
[0007]从镜像库中获取目标镜像，所述镜像库的镜像由执行设备所确定的执行文件以及算法模型文件打包得到；
[0008]将所述目标镜像进行容器化启动，得到所述目标镜像对应的算法容器实例，并建立所述执行设备与所述算法容器实例之间的代理关系；
[0009]通过所述算法容器实例向执行设备发送对应的计算执行请求参数，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务。
[0010]可选的，所述算法容器实例包括算法容器化代理，所述通过所述算法容器实例向执行设备发送对应的计算执行请求参数，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务，包括：
[0011]通过所述算法容器化代理对所述执行设备进行初始化，以初始化所述执行设备的所述计算执行请求参数；
[0012]通过所述算法容器化代理将所述目标计算任务对应的计算执行请求参数发送到所述执行设备，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务。
[0013]可选的，所述算法容器实例还包括数据回调代理，在所述根据所述算法容器实例向执行设备发送对应的计算执行请求参数之后，所述计算调度方法还包括：
[0014]接收所述执行设备通过所述数据回调代理回调的计算结果；
[0015]将所述计算结果回调到所述目标计算任务的请求方。
[0016]第二方面，本专利技术实施例提供一种计算执行方法，应用于执行设备，所述计算执行方法包括：
[0017]接收容器代理设备下发的计算请求，所述计算请求包括目标计算任务对应的计算执行请求参数；
[0018]执行所述容器代理设备根据算法容器实例下发的计算执行请求参数，对所述目标计算任务进行计算处理，得到计算结果，其中，所述算法容器实例通过将目标镜像进行容器化启动得到；
[0019]将所述计算结果返回到所述算法容器化代理设备。
[0020]可选的，在所述接收容器代理设备下发的计算请求的步骤之前，所述计算执行方法还包括：
[0021]接收所述容器代理设备下发的初始化参数；
[0022]根据所述初始化参数对所述计算执行请求参数进行初始化。
[0023]第三方面，本专利技术实施例提供一种计算调度装置，应用于容器代理设备，所述计算调度装置包括：
[0024]镜像获取模块，用于从镜像库中获取目标镜像，所述镜像库的镜像由执行设备所确定的执行文件以及算法模型文件打包得到；
[0025]容器化模块，用于将所述目标镜像进行容器化启动，得到所述目标镜像对应的算法容器实例，并建立所述执行设备与所述算法容器实例之间的代理关系；
[0026]发送模块，用于通过所述算法容器实例向执行设备发送对应的计算执行请求参数，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务。
[0027]第四方面，本专利技术实施例提供一种计算调度装置，应用于执行设备，所述计算执行装置包括：
[0028]第一接收模块，用于接收算法容器化代理设备下发的计算请求，所述计算请求包括目标计算任务对应的计算执行请求参数；
[0029]执行模块，用于执行所述算法容器化代理设备根据算法容器实例下发的计算执行请求参数，对所述目标计算任务进行计算处理，得到计算结果，其中，所述算法容器实例通过将目标镜像进行容器化启动得到；
[0030]返回模块，用于将所述计算结果返回到所述算法容器化代理设备。
[0031]第五方面，本专利技术实施例提供一种算法计算系统，所述算法计算系统包括：服务设备、容器代理设备以及执行设备，所述服务设备与所述容器代理设备通信连接，所述容器代理设备与所述执行设备通信连接；
[0032]所述服务设备用于搭载镜像库，所述镜像库的镜像由执行设备所确定的执行文件以及算法模型文件打包得到；
[0033]所述容器代理设备用于将目标镜像进行容器化启动，得到所述目标镜像对应的算法容器实例，并建立所述执行设备与所述算法容器实例之间的代理关系，并根据所述算法容器实例向执行设备发送对应的计算执行请求参数；
[0034]所述执行设备用于根据所述计算执行请求参数执行对应的目标计算任务。
[0035]第六方面，本专利技术实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现本专利技术实施本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种计算调度方法，其特征在于，应用于容器代理设备，包括以下步骤：从镜像库中获取目标镜像，所述镜像库的镜像由执行设备所确定的执行文件以及算法模型文件打包得到；将所述目标镜像进行容器化启动，得到所述目标镜像对应的算法容器实例，并建立所述执行设备与所述算法容器实例之间的代理关系；通过所述算法容器实例向所述执行设备发送对应的计算执行请求参数，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务。2.如权利要求1所述的计算调度方法，其特征在于，所述算法容器实例包括算法容器化代理，所述通过所述算法容器实例向执行设备发送对应的计算执行请求参数，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务，包括：通过所述算法容器化代理对所述执行设备进行初始化，以初始化所述执行设备的所述计算执行请求参数；通过所述算法容器化代理将所述目标计算任务对应的计算执行请求参数发送到所述执行设备，以使所述执行设备根据所述计算执行请求参数执行对应的目标计算任务。3.如权利要求2所述的计算调度方法，其特征在于，所述算法容器实例还包括数据回调代理，在所述根据所述算法容器实例向执行设备发送对应的计算执行请求参数之后，所述计算调度方法还包括：接收所述执行设备通过所述数据回调代理回调的计算结果；将所述计算结果回调到所述目标计算任务的请求方。4.一种计算执行方法，其特征在于，应用于执行设备，包括以下步骤：接收容器代理设备下发的计算请求，所述计算请求包括目标计算任务对应的计算执行请求参数；执行所述容器代理设备根据算法容器实例下发的计算执行请求参数，对所述目标计算任务进行计算处理，得到计算结果，其中，所述算法容器实例通过将目标镜像进行容器化启动得到；将所述计算结果返回到所述算法容器化代理设备。5.如权利要求4所述的计算执行方法，其特征在于，在所述接收容器代理设备下发的计算请求的步骤之前，所述计算执行方法还包括：接收所述容器代理设备下发的初始化参数；根据所述初始化参数对所述计算执行请求参数进行初始化。6.一种计算调度装置，其特征在于，应用于容器代理设备，所述计算调度装置包括：镜像获取模块，用于从镜...

【专利技术属性】
技术研发人员：钟斌，
申请(专利权)人：深圳云天励飞技术股份有限公司，
类型：发明
国别省市：