一种请求处理装置、方法、芯片、存储介质及电子设备制造方法及图纸

技术编号:39311213 阅读:12 留言:0更新日期:2023-11-12 15:56
本发明专利技术公开了一种请求处理装置、方法、芯片、存储介质及电子设备。其中装置包括:切片处理模块接收通道的处理请求,在处理请求的请求数据量超出预设数据阈值的情况下,对处理请求进行切片处理,得到处理请求的子请求,将子请求发送至请求处理模块;请求处理模块接收多个通道的子请求或处理请求,对子请求或处理请求进行调度,将多个通道的子请求或处理请求依次发送至请求响应模块;请求响应模块响应请求响应子请求或处理请求,得到返回数据,将返回数据发送至返回处理模块;返回处理模块接收多个通道的返回数据,并依次分发至对应通道。通过对处理请求进行切分处理,得到多个子请求,减少请求数据量过大的处理请求在整体调度情况下导致的延时积累。下导致的延时积累。下导致的延时积累。

【技术实现步骤摘要】
一种请求处理装置、方法、芯片、存储介质及电子设备


[0001]本专利技术涉及计算机
,尤其涉及一种请求处理装置、方法、芯片、存储介质及电子设备。

技术介绍

[0002]目前市面上常用的高性能的网卡、显卡或者其他的加速卡通常是通过PCIE接口插到服务器上,并且这类功能卡通常是通过DMA(Direct Memory Access,直接存储器访问)的方式来访问服务器上内存中的数据。
[0003]在系统的设计中,为了充分利用PCIE的带宽和实际的应用需求,通常会有多个DMA的读写通道。
[0004]在实现本专利技术的过程中,发现现有技术中至少存在以下技术问题:在对多通道的处理请求进行调度的过程中,不同通道之间会存在延时积累的问题,导致处理请求的返回延时变大,降低系统性能。

技术实现思路

[0005]本专利技术提供了一种请求处理装置、方法、芯片、存储介质及电子设备,以减小对处理请求的处理延时。
[0006]根据本专利技术的一方面,提供了一种请求处理装置,包括请求处理模块、返回处理模块、请求响应模块、切片处理模块;其中,所述请求响应模块分别与所述请求响应模块和所述返回处理模块连接,所述请求响应模块与所述切片处理模块连接;
[0007]所述切片处理模块接收通道的处理请求,在所述处理请求的请求数据量超出预设数据阈值的情况下,对所述处理请求进行切片处理,得到所述处理请求的子请求,将所述子请求发送至所述请求处理模块;
[0008]所述请求处理模块接收多个通道的所述子请求或所述处理请求,对所述子请求或所述处理请求进行调度,将多个通道的所述子请求或所述处理请求依次发送至所述请求响应模块;
[0009]所述请求响应模块响应所述请求响应所述子请求或所述处理请求,得到返回数据,将所述返回数据发送至所述返回处理模块;
[0010]所述返回处理模块接收多个通道的返回数据,并依次分发至对应通道。
[0011]根据本专利技术的另一方面,提供了一种芯片,包括如本专利技术实施例提供的请求处理装置。
[0012]根据本专利技术的另一方面,提供了一种请求处理方法,包括:
[0013]接收任一通道的处理请求,解析所述处理请求的请求数据量;
[0014]在所述处理请求的请求数据量超出预设数据阈值的情况下,对所述处理请求进行切片处理,得到所述处理请求的子请求;
[0015]对所述子请求进行调度处理。
[0016]根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
[0017]至少一个处理器;以及
[0018]与所述至少一个处理器通信连接的存储器;其中,
[0019]所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的请求处理方法。
[0020]根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的请求处理方法。
[0021]本专利技术实施例的技术方案,多通道请求的场景下,对各通道的处理请求进行切分判定,在处理请求的请求数据量过大的情况下,对处理请求进行切分处理,得到多个子请求,对多个通道的处理请求或子请求进行轮询调度,由于进行调度的处理请求或子请求的请求数据量小,相应的,响应耗时短,在上述轮询调度的情况下,多个通道的处理请求或子请求可交叉调度,减少请求数据量过大的处理请求在整体调度情况下导致的延时积累,提高多个通道处理请求的响应速度。
[0022]应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0023]为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0024]图1是一种请求处理装置的示意图。
[0025]图2是本专利技术实施例提供的处理请求的调度和返回延时的示意图。
[0026]图3是本专利技术实施例提供的一种请求处理装置的结构示意图。
[0027]图4是本专利技术实施例提供的处理请求的调度对比图。
[0028]图5是本专利技术实施例提供的返回时序对比图。
[0029]图6为本专利技术实施例提供的返回数据处理过程对比图。
[0030]图7是本专利技术实施例提供的一种请求处理装置的结构示意图。
[0031]图8是本专利技术实施例提供的一种芯片的结构示意图。
[0032]图9是本专利技术实施例提供的一种请求处理方法的流程示意图。
[0033]图10是本专利技术实施例的一种电子设备的结构示意图。
具体实施方式
[0034]为了使本
的人员更好地理解本专利技术方案,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分的实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本专利技术保护的范
围。
[0035]需要说明的是,本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0036]参见图1,图1是一种请求处理装置的示意图。图1中包括请求处理模块、返回处理模块、请求响应模块。请求响应模块与多个通道连接,接收各通道的处理请求,不同的通道对应不同的业务或功能,不同通道读写数据的长度也可以不相同。图1中包括4个读写请求通道,读写请求通道的处理请求可以是读请求或写请求,处理请求的请求数量可以是几十字节或者几十k的字节,甚至更高。请求处理模块采用轮询方式依次调度多个通道的处理请求,依次将调度的处理请求发送至请求响应模块。请求响应模块根据请求处理模块对处理请求的调度顺序依次响应,请求响应模块与服务器连接,对于任一处理请求,将处理请求发送至服务器并接收服务器的返回数据。对于写请求,将写请求中的数据内容写入到服务器中,对于读请求,从服务器中读取读请求对应的数据内容。请求响应模块将服务器的返回数据顺序地发送至返回处理模块,返回处理模块将返回数据分发至对应通道的缓存中,其中,返回数据的处理顺序与对应处理请求的调度顺序相同本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种请求处理装置,其特征在于,包括请求处理模块、返回处理模块、请求响应模块、切片处理模块;其中,所述请求响应模块分别与所述请求处理模块和所述返回处理模块连接,所述请求处理模块与所述切片处理模块连接;所述切片处理模块接收通道的处理请求,在所述处理请求的请求数据量超出预设数据阈值的情况下,对所述处理请求进行切片处理,得到所述处理请求的子请求,将所述子请求发送至所述请求处理模块;所述请求处理模块接收多个通道的所述子请求或所述处理请求,对所述子请求或所述处理请求进行调度,将多个通道的所述子请求或所述处理请求依次发送至所述请求响应模块;所述请求响应模块响应所述请求响应所述子请求或所述处理请求,得到返回数据,将所述返回数据发送至所述返回处理模块;所述返回处理模块接收多个通道的返回数据,并依次分发至对应通道。2.根据权利要求1所述的请求处理装置,其特征在于,所述切片处理模块用于:基于所述预设数据阈值对所述处理请求进行切片处理,得到一子请求,所述子请求的请求数据量为预设数据阈值;确定所述处理请求的剩余数据量,基于所述预设数据阈值对所述处理请求的剩余数据量进行重新判定。3.根据权利要求2所述的请求处理装置,其特征在于,所述切片处理模块还用于:获取所述处理请求的请求地址,基于所述请求地址设置所述子请求的请求地址;其中,所述子请求为所述处理请求的首个子请求的情况下,所述子请求的请求地址为所述处理请求的请求地址;所述子请求为所述处理请求的非首个子请求的情况下,所述子请求的请求地址基于所述处理请求的请求地址和已调度子请求的请求地址确定。4.根据权利要求1所述的请求处理装置,其特征在于,所述请求处理模块用于:在所述子请求为非首个子请求的情况下,获取预设调度间隔,在所述子请求与上一已调度子请求之间的调度间隔满足所述预设调度间隔的情况下,调度所述子请求。5.根据权利要求1所...

【专利技术属性】
技术研发人员:房东
申请(专利权)人:京东科技信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1