用于分配客户请求的方法、判断装置和系统制造方法及图纸

本发明专利技术公开了一种用于分配客户请求的方法、判断装置和系统，其中，当接收到客户请求函数时，判断装置从客户请求函数中提取与资源开销相关联的参数，根据参数确定与客户请求函数相匹配的处理单元，从而系统将客户请求函数发送给相匹配的处理单元以进行相应的运算处理。本发明专利技术能够根据客户请求函数的特点选择匹配的处理单元进行运算处理，减少运算时间，提高处理效率。

【技术实现步骤摘要】

本专利技术涉及计算机
，尤其涉及一种用于分配客户请求的方法、判断装置和系统。
技术介绍
目前计算行业正在从单一使用CPU(CentralProcessingUnit，中央处理器)向CPU与GPU(GraphicProcessingUnit，图形处理器)并用的协同处理发展，由此，英伟达公司推出了CUDA(ComputeUnifiedDeviceArchitecture，统一计算设备架构)这一编程模型，目的是在应用程序中充分利用CPU擅长的逻辑运算和GPU擅长的并行运算的优点。随着CPU+GPU这种混合运算模式的技术不断升级和加强，事实证明两个核心并行工作，处理各自擅长的用户请求效率更高。而在现有的GPU虚拟机技术的设备复用方法中，CUDA技术的多用户并行模式对CPU利用率较低，用户需要通过自己判断，在编程中通过“_global_”声明来标记函数是否在GPU中运行。显然，用户不一定都知道所编写的函数是否适合在GPU中运行，容易将不适合在GPU中运行的函数送入GPU中处理，将GPU擅长处理的函数送入了CPU中处理，降低了处理速度，增加了处理时间，进而降低了处理效率。
技术实现思路
本专利技术提供了一种用于分配客户请求的方法、判断装置和系统，能够根据客户请求函数的特点选择匹配的处理单元进行运算处理，减少运算时间，提高处理效率。根据本专利技术的一个方面，提供了一种用于分配客户请求的方法，包括：当接收到客户请求函数时，从客户请求函数中提取与资源开销相关联的参数；根据参数确定与客户请求函数相匹配的处理单元；将客户请求函数发送给相匹配的处理单元以进行相应的运算处理。在一个实施例中，根据参数确定与客户请求函数相匹配的处理单元的步骤包括：将参数发送给云数据库，以便在云数据库中查询与参数相匹配的历史记录对应的处理单元；当接收到云数据库发送的查询结果时，将查询结果中指示的处理单元作为与客户请求函数相匹配的处理单元。在一个实施例中，当接收到云数据库发送的查询结果时，将查询结果中指示的处理单元作为与客户请求函数相匹配的处理单元的步骤包括：当接收到云数据库发送的查询结果时，判断查询结果中是否包括与参数相匹配的历史记录以及对应的处理单元指示信息；若查询结果中包括指示信息，则将指示的处理单元作为与客户请求函数相匹配的处理单元。在一个实施例中，若查询结果中不包括指示信息，或者在预定时间内未接收到查询结果，则进一步在本地数据库中查询是否存在与参数相匹配的历史记录；若在本地数据库中查询到与参数相匹配的历史记录，则将查询到的匹配记录对应的处理单元作为与客户请求函数相匹配的处理单元。在一个实施例中，若在本地数据库中未查询到与参数相匹配的历史记录，则从全部处理单元中选择与客户请求函数匹配的处理单元。在一个实施例中，从全部处理单元中选择与客户请求函数匹配的处理单元的步骤包括：将客户请求函数分配给每一个处理单元以进行运算处理；将首先完成运算处理的处理单元作为与客户请求函数匹配的处理单元。在一个实施例中，将首先完成运算处理的处理单元作为与客户请求函数匹配的处理单元的步骤之后，还包括：指示未完成运算处理的处理单元停止运算；将从客户请求函数中提取出的参数以及客户请求函数与匹配处理单元之间的关联关系存储到云数据库和本地数据库中。在一个实施例中，上述任一方法，与资源开销相关联的参数包括函数代码规模、函数中逻辑运算次数、时间空间复杂度和需要占用资源的大小。根据本专利技术的另一方面，提供了一种用于分配客户请求的判断装置，包括第一接口模块、提取模块、选择模块和第二接口模块，其中：第一接口模块，用于接收客户请求函数；提取模块，用于从所述客户请求函数中提取与资源开销相关联的参数；选择模块，用于根据所述参数确定与所述客户请求函数相匹配的处理单元；第二接口模块，用于将所述客户请求函数发送给所述相匹配的处理单元以进行相应的运算处理。在一个实施例中，还包括第三接口模块，其中：选择模块还用于指示第三接口模块将所述参数发送给云数据库，以便在云数据库中查询与所述参数相匹配的历史记录对应的处理单元；当第三接口模块接收到云数据库发送的查询结果时，将查询结果中指示的处理单元作为与所述客户请求函数相匹配的处理单元；第三接口模块，用于根据选择模块的指示将所述参数发送给云数据库；还用于接收云数据库发送的查询结果。在一个实施例中，选择模块具体在第三接口模块接收到云数据库发送的查询结果时，判断查询结果中是否包括与参数相匹配的历史记录对应的处理单元指示信息；若查询结果中包括指示信息，则将指示的处理单元作为与客户请求函数相匹配的处理单元。在一个实施例中，选择模块还用于在查询结果中不包括指示信息，或者第三接口模块在预定时间内未接收到查询结果时，进一步在本地数据库中查询是否存在与参数相匹配的历史记录；若在本地数据库中查询到与参数相匹配的历史记录，则将查询到的匹配记录对应的处理单元作为与客户请求函数相匹配的处理单元。在一个实施例中，选择模块还用于在本地数据库中未查询到与参数相匹配的历史记录时，从全部处理单元中选择与客户请求函数匹配的处理单元。在一个实施例中，选择模块具体在从全部处理单元中选择与所述客户请求函数匹配的处理单元时，将客户请求函数分配给每一个处理单元以进行运算处理；将首先完成运算处理的处理单元作为与客户请求函数匹配的处理单元。在一个实施例中，选择模块还用于在将首先完成运算处理的处理单元作为与所述客户请求函数匹配的处理单元之后，指示未完成运算处理的处理单元停止运算；将从客户请求函数中提取出的参数以及客户请求函数与匹配处理单元之间的关联关系存储到云数据库和本地数据库中。在一个实施例中，上述任一装置中，与资源开销相关联的参数包括函数代码规模、函数中逻辑运算次数、时间空间复杂度和需要占用资源的大小。根据本专利技术的又一方面，提供了一种用于分配客户请求的系统，包括判断装置和处理单元，其中：判断装置，为上述任一项涉及的判断装置；处理单元，用于在接收到判断装置发送的客户请求函数时，对客户请求函数进行运算处理。在一个实施例中，处理单元包括处理模块和与处理模块一一对应的线程管理模块，其中：线程管理模块，用于在接收到判断装置发送的客户请求函数时，...

【技术保护点】
一种用于分配客户请求的方法，其特征在于，当接收到客户请求函数时，从所述客户请求函数中提取与资源开销相关联的参数；根据所述参数确定与所述客户请求函数相匹配的处理单元；将所述客户请求函数发送给所述相匹配的处理单元以进行相应的运算处理。

【技术特征摘要】
1.一种用于分配客户请求的方法，其特征在于，
当接收到客户请求函数时，从所述客户请求函数中提取与资源开
销相关联的参数；
根据所述参数确定与所述客户请求函数相匹配的处理单元；
将所述客户请求函数发送给所述相匹配的处理单元以进行相应的
运算处理。
2.根据权利要求1所述的方法，其特征在于，
根据所述参数确定与所述客户请求函数相匹配的处理单元的步骤
包括：
将所述参数发送给云数据库，以便在云数据库中查询与所述参数
相匹配的历史记录对应的处理单元；
当接收到云数据库发送的查询结果时，将查询结果中指示的处理
单元作为与所述客户请求函数相匹配的处理单元。
3.根据权利要求2所述的方法，其特征在于，
当接收到云数据库发送的查询结果时，将查询结果中指示的处理
单元作为与所述客户请求函数相匹配的处理单元的步骤包括：
当接收到云数据库发送的查询结果时，判断查询结果中是否包括
与所述参数相匹配的历史记录以及对应的处理单元指示信息；
若查询结果中包括所述指示信息，则将指示的处理单元作为与所
述客户请求函数相匹配的处理单元。
4.根据权利要求3所述的方法，其特征在于，
若查询结果中不包括所述指示信息，或者在预定时间内未接收到
查询结果，则进一步在本地数据库中查询是否存在与所述参数相匹配
的历史记录；
若在本地数据库中查询到与所述参数相匹配的历史记录，则将查
询到的匹配记录对应的处理单元作为与所述客户请求函数相匹配的处
理单元。
5.根据权利要求4所述的方法，其特征在于，
若在本地数据库中未查询到与所述参数相匹配的历史记录，则从
全部处理单元中选择与所述客户请求函数匹配的处理单元。
6.根据权利要求5所述的方法，其特征在于，
从全部处理单元中选择与所述客户请求函数匹配的处理单元的步
骤包括：
将所述客户请求函数分配给每一个处理单元以进行运算处理；
将首先完成运算处理的处理单元作为与所述客户请求函数匹配的
处理单元。
7.根据权利要求6所述的方法，其特征在于，
将首先完成运算处理的处理单元作为与所述客户请求函数匹配的
处理单元的步骤之后，还包括：
指示未完成运算处理的处理单元停止运算；
将从所述客户请求函数中提取出的所述参数以及所述客户请求函
数与匹配处理单元之间的关联关系存储到云数据库和本地数据库中。
8.根据权利要求1-7中任一项所述的方法，其特征在于，
与资源开销相关联的参数包括函数代码规模、函数中逻辑运算次
数、时间空间复杂度和需要占用资源的大小。
9.一种用于分配客户请求的判断装置，其特征在于，包括第一接
口模块、提取模块、选择模块和第二接口模块，其中：
第一接口模块，用于接收客户请求函数；
提取模块，用于从所述客户请求函数中提取与资源开销相关联的
参数；
选择模块，用于根据所述参数确定与所述客户请求函数相匹配的
处理单元；
第二接口模块，用于将所述客户请求函数发送给所述相匹配的处
理单元以进行相应的运算处理。
10.根据权利要求9所述的判断装置，其特征在于，还包括第三
接口模块，其中：
选择模块还用于指示...

【专利技术属性】
技术研发人员：武娟，庞涛，黄海，钱锋，
申请(专利权)人：中国电信股份有限公司，
类型：发明
国别省市：北京;11