任务处理方法、装置及设备制造方法及图纸

本申请提供一种任务处理方法、装置及设备，该方法包括：接收客户端发送的加速处理请求；对加速处理请求进行处理，得到加速处理参数；根据加速处理参数生成待处理任务；将所述待处理任务发送给加速器，以使加速器处理所述待处理任务。通过本申请的技术方案，能够提高每个加速器的利用率。

【技术实现步骤摘要】
任务处理方法、装置及设备
本申请涉及互联网
，尤其是涉及一种任务处理方法、装置及设备。
技术介绍
随着AI(ArtificialIntelligence，人工智能)的快速发展，AI加速器越来越多，技术更新越来越快，AI加速器在数据中心的使用量逐步增加。AI加速器也称为AI芯片或计算卡，是专门用于处理人工智能应用中的大量计算任务的模块，其它非计算任务仍由CPU(CentralProcessingUnit，中央处理器)负责。在相关技术中，需要为每个用户配置独立的AI加速器，AI加速器只为该用户的人工智能应用的计算任务进行处理，存在AI加速器的利用率较低等问题。
技术实现思路
本申请提供一种任务处理方法，所述方法包括：接收客户端发送的加速处理请求；对所述加速处理请求进行处理，得到加速处理参数；根据所述加速处理参数生成待处理任务；将所述待处理任务发送给加速器，以使所述加速器处理所述待处理任务。本申请提供一种任务处理方法，所述方法包括：获取应用程序的加速处理参数；对本文档来自技高网...

【技术保护点】
1.一种任务处理方法，其特征在于，所述方法包括：/n接收客户端发送的加速处理请求；/n对所述加速处理请求进行处理，得到加速处理参数；/n根据所述加速处理参数生成待处理任务；/n将所述待处理任务发送给加速器，以使所述加速器处理所述待处理任务。/n

【技术特征摘要】
1.一种任务处理方法，其特征在于，所述方法包括：
接收客户端发送的加速处理请求；
对所述加速处理请求进行处理，得到加速处理参数；
根据所述加速处理参数生成待处理任务；
将所述待处理任务发送给加速器，以使所述加速器处理所述待处理任务。


2.根据权利要求1所述的方法，其特征在于，所述加速处理请求包括应用程序编程接口API请求，所述加速处理参数包括API参数；
所述对所述加速处理请求进行处理，得到加速处理参数，包括：
对所述加速处理请求进行API解封装处理，得到所述加速处理参数。


3.根据权利要求1所述的方法，其特征在于，
所述根据所述加速处理参数生成待处理任务，包括：
从真实加速器库中获取应用程序的第一库文件；
根据所述第一库文件以及所述加速处理参数生成待处理任务。


4.根据权利要求1所述的方法，其特征在于，所述将所述待处理任务发送给加速器，以使所述加速器处理所述待处理任务之后，还包括：
获取所述待处理任务对应的任务处理结果；
对所述任务处理结果进行API封装处理，得到加速处理响应；
将所述加速处理响应发送给所述客户端。


5.根据权利要求1-4任一项所述的方法，其特征在于，
所述接收客户端发送的加速处理请求之后，所述方法还包括：
确定所述加速处理请求是否为待处理队列的目标加速处理请求，所述目标加速处理请求是待处理队列中最后一个加速处理请求的下一个加速处理请求；
如果是，则将所述加速处理请求添加到所述待处理队列；
所述对所述加速处理请求进行处理，得到加速处理参数，包括：
基于所述待处理队列中的加速处理请求的顺序，对所述待处理队列中的第一个加速处理请求进行处理，得到加速处理参数。


6.根据权利要求5所述的方法，其特征在于，
所述确定所述加速处理请求是否为待处理队列的目标加速处理请求，包括：
根据所述加速处理请求的序号值和所述待处理队列的全局计数器的计数值，确定所述加速处理请求是否为所述待处理队列的目标加速处理请求；其中，所述计数值表示所述待处理队列中最后一个加速处理请求的序号值。


7.一种任务处理方法，其特征在于，所述方法包括：
获取应用程序的加速处理参数；
对所述加速处理参数进行封装，得到加速处理请求；
将所述加速处理请求发送给服务端，以使所述服务端根据所述加速处理参数生成待处理任务，并将所述待处理任务发送给加速器进行处理。


8.根据权利要求7所述的方法，其特征在于，所述加速处理参数包括应用程序编程接口API参数，所述加速处理请求包括API请求；
所述对所述加速处理参数进行封装，得到加速处理请求，包括：
从函数代理库中获取应用程序的第二库文件；
根据第二库文件对所述加速处理参数进行API封装，得到加速处理请求。


9.根据权利要求8所述的方法，其特征在于，
所述从函数代理库中获取应用程序的第二库文件之前，所述方法还包括：
从服务端的真实加速器库的第一库文件中解析API函数信息；
根据所述API函数信息生成应用程序的第二库文件；
将所述应用程序的第二库文件存储到函数代理库中。


10.根据权利要求8所述的方法，其特征在于，
所述将所述加速处理请求发送给服务端之后，所述方法还包括：
接收所述服务端针对所述加速处理请求返回的加速处理响应；
对所述加速处理响应进行API解封装处理，得到任务处理结果；
将所述任务处理结果返回给所述应用程序。


11.根据权利要求7-10任一项所述的方法，其特征在于，
所述获取应用程序的加速处理参数之后，所述方法还包括：
在得到所述加速处理参数对应的任务处理结果之前，向所述应用程序返回预测任务处理结果，由...

【专利技术属性】
技术研发人员：范鹏飞，金玲玲，周军蕊，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛;KY