处理数据过程中的调度方法、装置和系统制造方法及图纸

本发明专利技术公开了一种处理数据过程中的调度方法、装置和系统。其中，该方法包括：计算设备从请求队列中读取至少一个数据处理请求；计算设备为每个数据处理请求分配到一个满足第一预设条件的运算引擎；计算设备基于满足第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；计算设备使用满足第二预设条件的至少一个逻辑运算单元处理数据处理请求。本发明专利技术解决了计算机设备中运算资源利用率低的技术问题。

Scheduling method, device and system in processing data process

The invention discloses a scheduling method, device and system for processing data. Among them, the method includes: the computing device reads at least one data processing request from the request queue; the computing device assigns each data processing request to an operation engine that satisfies the first preset condition; the computing device is based on the state data of the operation engine that satisfies the first preset condition from the logical operation cell pool. At least one logical unit that meets the second preset conditions is obtained; the computing device uses at least one logical unit that meets the second preset conditions to process the data processing requests. The invention solves the technical problem of low utilization ratio of computing resources in computer equipment.

【技术实现步骤摘要】
处理数据过程中的调度方法、装置和系统
本专利技术涉及信息安全领域，具体而言，涉及一种处理数据过程中的调度方法、装置和系统。
技术介绍
在数据处理过程中，尤其在多任务数据处理过程中，通常会涉及到很多的运算，在进行这些运算过程中，会消耗大量的CPU资源，影响系统的性能。为了减少在数据处理过程中对CPU资源的占用，可以采用增加硬件加速单元，将大量的运算在CPU之外运行。以RSA公钥加密算法为例，RSA公钥加密算法是一种重要的非对称签名/加密算法，广泛应用于现有的网络通信中(例如，HTTPS)。在RSA加密算法中涉及到大量的运算，并且其加密强度依赖于密钥长度，即密钥越长，破解的难度越大。随着计算机技术的快速发展，为了增强RSA加密的安全强度，需要采用更长的密钥，然后，采用更长的密钥长度，会导致RSA加解密速度降低。通常，在服务器端完成RSA算法的计算，如果利用软件完成RSA加解密，则需要耗费大量的CPU资源，严重影响性能；如果利用硬件加速单元将运算密集的RSA操作在CPU之外单独进行，则CPU能够处理更多的协议栈和操作系统层面的请求。由于硬件加速单元中通常都会采用多运算核心(引擎)的方案来进行运算处理，因而基于硬件加速的数据处理方案，需要解决如何在多个引擎之间调度资源、提高资源利用效率的问题。针对上述的问题，目前尚未提出有效的解决方案。
技术实现思路
本专利技术实施例提供了一种处理数据过程中的调度方法、装置和系统，以至少解决计算机设备中运算资源利用率低的技术问题。根据本专利技术实施例的一个方面，提供了一种处理数据过程中的调度方法，包括：计算设备从请求队列中读取至少一个数据处理请求；计算设备为每个数据处理请求分配到一个满足第一预设条件的运算引擎；计算设备基于满足第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；计算设备使用满足第二预设条件的至少一个逻辑运算单元处理数据处理请求。根据本专利技术实施例的一个方面，还提供了一种处理数据过程中的调度系统，包括：计算设备，包括：输入/输出接口、一级调度器、二级调度器、多个运算引擎和多个逻辑运算单元；输入/输出接口，用于接收至少一个数据处理请求，并存储至请求队列中；一级调度器，与输入/输出接口连接，用于从请求队列中读取至少一个数据处理请求，并为每个数据处理请求分配到一个满足第一预设条件的运算引擎；二级调度器，与一级调度器连接，用于接收数据处理请求，并基于满足第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；其中，满足第二预设条件的至少一个逻辑运算单元处理数据处理请求。根据本专利技术实施例的另一方面，还提供了一种处理数据过程中的调度装置，包括：读取模块，用于计算设备从请求队列中读取至少一个数据处理请求；分配模块，用于计算设备为每个数据处理请求分配到一个满足第一预设条件的运算引擎；调度模块，用于基于满足第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；处理模块，用于计算设备使用满足第二预设条件的至少一个逻辑运算单元处理数据处理请求；其中，计算设备包括多个运算引擎和多个逻辑运算单元。根据本专利技术实施例的另一方面，还提供了一种用于硬件加密单元的任务调度装置，输入/输出接口，用于从请求队列中读取至少一个数据处理请求；控制器，与输入/输出接口连接，用于为每个数据处理请求分配到一个满足第一预设条件的运算引擎，以及调度满足第二预设条件的至少一个逻辑运算单元，并使用满足第二预设条件的至少一个逻辑运算单元处理数据处理请求。根据本专利技术实施例的另一方面，还提供了一种计算设备，包括：硬件加密单元，用于处理加密请求；存储器，与硬件加密单元连接，用于将加密请求中的一个或多个数据处理请求存储至请求队列中；任务调度单元，与存储器连接，用于从请求队列中读取至少一个数据处理请求，并为数据处理请求分配到一个满足第一预设条件的运算引擎，以及调度满足第二预设条件的至少一个逻辑运算单元；处理器，与任务调度单元连接，用于使用满足第二预设条件的至少一个逻辑运算单元处理数据处理请求。根据本专利技术实施例的另一方面，还提供了一种处理数据过程中的两级调度方法，包括：从请求队列中读取至少一个数据处理请求；执行一级调度：为每个数据处理请求分配到一个满足预设状态的运算引擎，其中，运算引擎在执行过程中具备多个执行状态；执行二级调度：基于满足预设状态的运算引擎的状态数据，从逻辑运算单元池中调度，选择与预设状态对应的可用的至少一个逻辑运算单元；使用逻辑运算单元处理数据处理请求。根据本专利技术实施例的另一方面，还提供了计算设备，包括：输入输出接口，用于接收数据处理请求；存储器，用于保存数据处理请求，形成请求队列；一级调度器，用于从请求队列中读取至少一个数据处理请求，并分配到一个满足预设状态的运算引擎；二级调度器，用于基于满足预设状态的运算引擎的状态数据，从逻辑运算单元池中调度，选择与预设状态对应的可用的至少一个逻辑运算单元处理数据处理请求；运算引擎池，包括多个运算引擎，用于向一级调度器提供预设状态的运算引擎，其中，每个运算引擎在执行过程中具备多个执行状态；和逻辑运算单元池，包括多个逻辑运算单元，用于向二级调度器提供逻辑运算单元。在本专利技术实施例中，通过计算设备从请求队列中读取至少一个数据处理请求；计算设备为每个数据处理请求分配到一个满足第一预设条件的运算引擎；计算设备基于满足第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；计算设备使用满足第二预设条件的至少一个逻辑运算单元处理数据处理请求，达到了将逻辑复杂的一级调度与逻辑简单的二级调度区分开的目的，从而实现了有效地对运算任务进行动态调整和分配运算资源的技术效果，进而解决了计算机设备中运算资源利用率低的技术问题。附图说明此处所说明的附图用来提供对本专利技术的进一步理解，构成本申请的一部分，本专利技术的示意性实施例及其说明用于解释本专利技术，并不构成对本专利技术的不当限定。在附图中：图1是根据本专利技术实施例的一种硬件资源调度系统结构示意图；图2是根据本专利技术实施例的一种可选的硬件资源调度系统示意图；图3(a)所示为根据本专利技术实施例的一种可选的基于单个引擎的RSA硬件加速方案示意图；图3(b)所示为根据本专利技术实施例的一种可选的基于多个引擎的RSA硬件加速方案示意图；图3(c)所示为根据本专利技术实施例的一种可选的二级调度器示意图；图4是根据本专利技术实施例的一种处理数据过程中的调度方法的流程图；图5是根据本专利技术实施例的一种可选的处理数据过程中的调度方法的流程图；图6是根据本专利技术实施例的一种可选的处理数据过程中的调度方法的流程图；图7是根据本专利技术实施例的一种可选的处理数据过程中的调度方法的流程图；图8是根据本专利技术实施例的一种可选的处理数据过程中的调度方法的流程图；图9是根据本专利技术实施例的一种可选的处理数据过程中的调度方法的流程图；图10是根据本专利技术实施例的一种可选的处理数据过程中的调度方法的流程图；图11所示为根据本专利技术实施例的一种可选的在多个引擎中进行资源调度的方法流程图；图12是根据本专利技术实施例的一种处理数据过程中的调度装置示意图；图13是根据本发本文档来自技高网...

【技术保护点】
1.一种处理数据过程中的调度系统，其特征在于，包括：客户端设备，包括：输入/输出接口、一级调度器、二级调度器、多个运算引擎和多个逻辑运算单元；所述输入/输出接口，用于接收至少一个数据处理请求，并存储至请求队列中；所述一级调度器，与所述输入/输出接口连接，用于从所述请求队列中读取至少一个数据处理请求，并为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎；所述二级调度器，与所述一级调度器连接，用于接收所述数据处理请求，并基于满足所述第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；其中，满足所述第二预设条件的至少一个逻辑运算单元处理所述数据处理请求。

【技术特征摘要】
1.一种处理数据过程中的调度系统，其特征在于，包括：客户端设备，包括：输入/输出接口、一级调度器、二级调度器、多个运算引擎和多个逻辑运算单元；所述输入/输出接口，用于接收至少一个数据处理请求，并存储至请求队列中；所述一级调度器，与所述输入/输出接口连接，用于从所述请求队列中读取至少一个数据处理请求，并为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎；所述二级调度器，与所述一级调度器连接，用于接收所述数据处理请求，并基于满足所述第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；其中，满足所述第二预设条件的至少一个逻辑运算单元处理所述数据处理请求。2.一种处理数据过程中的调度方法，其特征在于，包括：计算设备从请求队列中读取至少一个数据处理请求；所述计算设备为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎；所述计算设备基于满足所述第一预设条件的运算引擎的状态数据从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元；所述计算设备使用满足所述第二预设条件的至少一个逻辑运算单元处理所述数据处理请求。3.根据权利要求2所述的方法，其特征在于，所述第一预设条件至少包括如下一个条件：所述运算引擎是否空闲、所述运算引擎是否正在做后处理和所述运算引擎是否处于等待状态，其中，在所述第一预设条件包括多个条件的情况下，每个条件的按照预定的优先级对所述运算引擎进行依次判断。4.根据权利要求3所述的方法，其特征在于，所述计算设备为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎，包括：所述计算设备判断多个运算引擎中是否存在空闲的运算引擎；如果存在，所述计算设备根据最近最少使用算法LRU从所述空闲的至少一个运算引擎中选择一个运算引擎作为满足所述第一预设条件的运算引擎。5.根据权利要求3所述的方法，其特征在于，所述计算设备为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎，包括：所述计算设备判断多个运算引擎中是否存在正在做后处理的运算引擎；如果存在，所述计算设备根据最近最少使用算法LRU从所述正在做后处理的至少一个运算引擎中选择一个运算引擎作为满足所述第一预设条件的运算引擎。6.根据权利要求3所述的方法，其特征在于，所述计算设备为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎，包括：所述计算设备判断多个运算引擎中处于等待状态的运行引擎是否进入空闲状态；如果存在至少一个进入所述空闲状态的运算引擎，所述计算设备根据最近最少使用算法LRU从所述至少一个进入所述空闲状态的运算引擎中选择一个运算引擎作为满足所述第一预设条件的运算引擎。7.根据权利要求3所述的方法，其特征在于，所述计算设备为每个所述数据处理请求分配到一个满足第一预设条件的运算引擎，包括：所述计算设备判断多个运算引擎中是否存在空闲的运算引擎和/或正在做后处理的运算引擎；如果不存在，则所述计算设备继续判断所述多个运算引擎中处于等待状态的运行引擎是否进入空闲状态；如果存在至少一个进入所述空闲状态的运算引擎，所述计算设备根据最近最少使用算法LRU从所述至少一个进入所述空闲状态的运算引擎中选择一个运算引擎作为满足所述第一预设条件的运算引擎。8.根据权利要求2至7中任意一项所述的方法，其特征在于，所述计算设备使用满足所述第一预设条件的运算引擎从逻辑运算单元池中调度，得到满足第二预设条件的至少一个逻辑运算单元，包括：所述计算设备控制满足所述第一预设条件的运算引擎进入工作模式；所述计算设备根据所述运算引擎的当前运算阶段，确定需要申请的逻辑运算单元的类型；所述计算设备...

【专利技术属性】
技术研发人员：张晓昱，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY