SOC智能网卡及任务调度方法技术

本发明专利技术公开了一种SOC智能网卡及任务调度方法，该SOC智能网卡包括主机通信模块和混合调度模块，主机通信模块用于与主机服务器通信以获取任务请求；混合调度模块包括FCFS调度核单元、DWRR调度核单元、监控单元和调度核选择单元；FCFS调度核单元用于接收并执行任务请求；DWRR调度核单元用于当在FCFS调度核单元上执行的任务的尾延迟超过第一尾延迟阈值时，接收来自FCFS调度核单元上的任务；监控单元检测任务的尾延迟是否超过第一尾延迟阈值或任务的尾延迟是否低于第二尾延迟阈值；调度核选择单元用于将在FCFS调度核单元上执行的尾延迟超过第一尾延迟阈值的任务分配到DWRR调度核单元中，将在DWRR调度核单元上执行的尾延迟低于第二尾延迟阈值的任务分配到FCFS调度核单元中。元中。元中。

【技术实现步骤摘要】
SOC智能网卡及任务调度方法


[0001]本专利技术涉及智能网卡应用
，尤其是涉及一种SOC智能网卡及任务调度方法。

技术介绍

[0002]现在数据中心服务器(主机服务器)通常会托管各种各样的应用程序，尤其是分布式应用程序和不同竞争的多租户应用程序。这些应用程序有着不同的卸载类型和不同的计算需求。更重要的是，计算模块对这些应用程序的执行行为也不相同。不同的卸载任务的执行时间可能会有一个数量级的差异，而且消耗主机服务器的周期的计算代价也不尽相同。数据中心的资源无序共享、多租户间的干扰以及突发的负载导致长尾延迟现象严重，从而严重影响了用户体验。
[0003]此外，不同应用程序造成的远程过程调用(Remote Procedure Call,RPC)的尾延迟(Tail Latency)也不相同，而产生高的尾延迟的原因主要有两个，一个是内存和缓存层次结构在关键路径上，这样会干扰不同程序间的内存访问，引发资源竞争；另一个是次优的调度。
[0004]现有技术中，存在把网络的功能卸载到基于FPGA的智能网卡上，例如ClickNP和亚马逊云本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种SOC智能网卡，其特征在于，包括：主机通信模块，用于与主机服务器通信以获取任务请求；混合调度模块，包括FCFS调度核单元、DWRR调度核单元、监控单元和调度核选择单元；所述FCFS调度核单元用于接收并执行所述任务请求；所述DWRR调度核单元用于当在所述FCFS调度核单元上执行的任务的尾延迟超过第一尾延迟阈值时，接收来自所述FCFS调度核单元上的任务，并生成DWRR调度队列；所述监控单元用于检测在所述FCFS调度核单元上执行的任务的尾延迟是否超过所述第一尾延迟阈值，以及用于检测在所述DWRR调度核单元上执行的任务的尾延迟是否低于第二尾延迟阈值；所述调度核选择单元用于将在所述FCFS调度核单元上执行的尾延迟超过所述第一尾延迟阈值的任务分配到所述DWRR调度核单元中，以及，用于将在所述DWRR调度核单元上执行的尾延迟低于所述第二尾延迟阈值的任务分配到所述FCFS调度核单元中。2.根据权利要求1所述的SOC智能网卡，其特征在于，所述FCFS调度核单元上预先设置有平均请求延迟阈值，当所述监控单元检测到所述FCFS调度核单元工作的平均请求延迟时间大于所述平均请求延迟阈值时，通过所述主机通信模块将智能网卡上负载占比最高的一个迁移到所述主机服务器上；当所述监控单元检测到所述FCFS调度核单元工作的平均请求延迟时间小于所述平均请求延迟阈值时，则通过所述主机通信模块从所述主机服务器中抽取一些负载到智能网卡上。3.根据权利要求1所述的SOC智能网卡，其特征在于，所述DWRR调度核单元上预先设置有赤字延迟阈值，当所述监控单元检测到所述DWRR调度队列中的任务的赤子计数器大于所述赤字延迟阈值时，优先运行该任务...

【专利技术属性】
技术研发人员：温强，
申请(专利权)人：北京微朗科技有限公司，
类型：发明
国别省市：