限流场景下的带宽管理方法、装置、介质及电子设备制造方法及图纸

本公开的实施方式提供了一种限流场景下的带宽管理方法、装置、介质及电子设备，该方法应用于网关时，包括步骤：接收终端发送的业务请求；其中，所述业务请求用于向服务器请求业务信息；基于所述服务器的业务承载量确定所述业务请求是否为超限请求；若所述业务请求为超限请求，则拦截所述业务请求，并向所述终端返回超限信息，以使所述终端基于所述超限信息从预先存储的提示信息中提取对应的目标提示信息，并将所述目标提示信息进行渲染展示。本公开的限流场景下的带宽管理方法使终端基于超限信息从本地获取目标提示信息，可减少超限信息的体量，降低带宽开销。降低带宽开销。降低带宽开销。

【技术实现步骤摘要】
限流场景下的带宽管理方法、装置、介质及电子设备


[0001]本公开的实施方式涉及计算机
，更具体地，本公开的实施方式涉及限流场景下的带宽管理方法、装置、介质及电子设备。

技术介绍

[0002]终端的应用在向后端为服务器请求业务时，请求会先经过网关，然后再到达后端微服务，微服务在收到经网关的请求后，会基于请求执行业务逻辑。而在一些大流量高并发的场景下，如电商秒杀抢购等场景，为了保障后端微服务的稳定，超限的应用端请求会被网关限流掉并直接返回限流提醒，如网关为应用返回一个标识请求过多错误(429)页面。
[0003]网关在限流时所返回的限流提醒一般基于HTTP协议(Hyper Text Transfer Protocol，超文本传输)实现，HTTP协议包括用于指示客户端如何处理的响应头以及表示发送到客户端的实际内容的响应体，客户端在接受到HTTP协议后，基于响应头与响应体可在页面展示相关内容。
[0004]在限流时，网关返回给不同应用的超限信息的响应体是完全一致和重复的，应用在收到超限每个超限信息的响应体均会占用几百bit(比特)的带宽，在百万级到千万级TPS(系统吞吐量)并发的场景下，占用的带宽会多达几十Gbps(交换带宽)之多，这产生了巨大的带宽成本；而带宽资源是非常宝贵和有限的，网关这种方式也会挤压其它正常用户请求，造成更高的响应延迟甚至直接导致网络拥塞，进而影响用户体验。

技术实现思路

[0005]为此，本公开提出一种限流场景下的带宽管理方法，终端基于超限信息从本地获取目标提示信息，可减少超限信息的体量，降低带宽开销。
[0006]在本上下文中，本公开的实施方式期望提供一种限流场景下的带宽管理方法、装置、介质及电子设备。
[0007]在本公开实施方式的第一方面中，提供了一种限流场景下的带宽管理方法，应用于网关，所述方法包括：接收终端发送的业务请求；其中，所述业务请求用于向服务器请求业务信息；基于所述服务器的业务承载量确定所述业务请求是否为超限请求；若所述业务请求为超限请求，则拦截所述业务请求，并向所述终端返回超限信息，以使所述终端基于所述超限信息从预先存储的提示信息中提取对应的目标提示信息，并将所述目标提示信息进行渲染展示。
[0008]在本公开实施方式的第二方面中，提供了一种限流场景下的带宽管理方法，应用于终端，所述方法包括：向网关发送用于请求业务信息的业务请求；接收网关针对所述业务请求返回的超限信息；其中，所述超限信息为所述网关基于所述业务请求对应的服务器的业务承载量所生成的；基于所述超限信息从预先存储的提示信息中选择对应的目标提示信息，并将所述目标提示信息进行渲染展示。
[0009]在本公开实施方式的第三方面中，提供了一种限流场景下的带宽管理方法，包括：
终端向网关发送用于向服务器请求业务信息的业务请求；所述网关基于所述服务器的业务承载量确定所述业务请求是否为超限请求；若所述业务请求为超限请求，所述网关则拦截所述业务请求，并向所述终端返回超限信息；所述终端基于所述超限信息从预先存储的提示信息中提取对应的目标提示信息，并将所述目标提示信息进行渲染展示。
[0010]在本公开实施方式的第四方面中，提供了一种限流场景下的带宽管理装置，配置于网关，所述装置包括：业务请求接收模块，配置为接收终端发送的业务请求；其中，所述业务请求用于向服务器请求业务信息；超限判断模块，配置为基于所述服务器的业务承载量确定所述业务请求是否为超限请求；第一超限处理模块，配置为若所述业务请求为超限请求，则拦截所述业务请求，并向所述终端返回超限信息，以使所述终端基于所述超限信息从预先存储的提示信息中提取对应的目标提示信息，并将所述目标提示信息进行渲染展示。
[0011]在本公开实施方式的第五方面中，提供了一种限流场景下的带宽管理装置，配置于终端，所述装置包括：业务请求发送模块，配置为向网关发送用于请求业务信息的业务请求；超限信息接收模块，配置为接收网关针对所述业务请求返回的超限信息；其中，所述超限信息为所述网关基于所述业务请求对应的服务器的业务承载量所生成的；第二超限处理模块，配置为基于所述超限信息从预先存储的提示信息中选择对应的目标提示信息，并将所述目标提示信息进行渲染展示。
[0012]在本公开实施方式的第六方面中，提供了一种限流场景下的带宽管理系统，包括：网关以及预先存储有提示信息的终端；其中，所述终端用于发送向服务器请求业务信息的业务请求；所述网关用于基于所述服务器的业务承载量确定所述业务请求是否为超限请求，当所述业务请求为超限请求，则拦截所述业务请求，并向所述终端返回超限信息，以使所述终端基于所述超限信息从预先存储的提示信息中提取对应的目标提示信息，并将所述目标提示信息进行渲染展示。
[0013]在本公开实施方式的第七方面中，提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述所述的限流场景下的带宽管理方法。
[0014]在本公开实施方式的第八方面中，提供了一种电子设备，包括：处理器；以及存储器，所述存储器上存储有计算机可读指令，所述计算机可读指令被所述处理器执行时实现如上述所述的限流场景下的带宽管理方法。
[0015]根据本公开实施方式的技术方案，在确认业务请求为超限请求后，通过网关向终端返回超限信息，即可基于超限信息从终端本地存储的提示信息中提取与超限信息对应的目标提示信息，无需基于超限信息计算目标提示信息，可减少超限信息的体量，降低网关返回超限信息时所占用的带宽开销。
附图说明
[0016]通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本公开的若干实施方式，其中：
[0017]图1是本申请一示例性实施例示出的一种限流场景下的带宽管理方法的应用场景图；
[0018]图2是本申请的一示例性实施例示出的限流场景下的带宽管理方法流程图；
[0019]图3是本申请的另一示例性实施例示出的限流场景下的带宽管理方法流程图；
[0020]图4是图2所示实施例中的步骤S250在一示例性实施例中的流程图；
[0021]图5是图2所示实施例中的步骤S230在一示例性实施例中的流程图；
[0022]图6是是本申请的另一示例性实施例示出的限流场景下的带宽管理方法流程图；
[0023]图7是是本申请的另一示例性实施例示出的限流场景下的带宽管理方法流程图；
[0024]图8是本申请的一示例性实施例示出的限流场景下的带宽管理装置的结构示意图；
[0025]图9是本申请的另一示例性实施例示出的限流场景下的带宽管理装置的结构示意图；
[0026]图10示出了根据本公开的示例实施例的存储介质的结构示意图；
[0027]图11示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
[0028]下面将参考若本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种限流场景下的带宽管理方法，其特征在于，应用于网关，所述方法包括：接收终端发送的业务请求；其中，所述业务请求用于向服务器请求业务信息；基于所述服务器的业务承载量确定所述业务请求是否为超限请求；若所述业务请求为超限请求，则拦截所述业务请求，并向所述终端返回超限信息，以使所述终端基于所述超限信息从预先存储的提示信息中提取对应的目标提示信息，并将所述目标提示信息进行渲染展示。2.根据权利要求1所述的方法，其特征在于，所述拦截所述业务请求，并向所述终端返回超限信息，以使所述终端基于所述超限信息从预先存储的本地界面中提取对应的超限界面，并对所述超限界面进行渲染展示，包括：构建初始信息；其中，所述初始信息包括初始响应头与初始响应体；将所述初始响应头设置为与所述业务请求所对应的状态码，并将所述初始响应体设置为空，以得到所述超限信息；其中，不同的状态码对应不同的提示信息；将所述超限信息返回至所述终端，以使所述终端依据所述状态码提取对应的目标提示信息进行渲染展示。3.根据权利要求1所述的方法，其特征在于，所述基于所述服务器的业务承载量确定所述业务请求是否为超限请求，包括：获取所述服务器的最大业务承载量，以及所述服务器当前处理的业务处理量；若所述业务处理量大于或等于所述最大业务承载量，则所述业务请求为超限请求；若所述业务处理量小于所述最大业务承载量，则所述业务请求为非超限请求。4.根据权利要求3所述的方法，其特征在于，所述方法还包括：若所述业务请求不是超限请求，则将所述业务请求发送至所述服务器，以使所述服务器基于所述业务请求返回业务信息。5.一种限流场景下的带宽管理方法，其特征在于，应用于终端，所述方法包括：向网关发送用于请求业务信息的业务请求；接收所述网关针对所述业务请求返回的超限信息；其中，所述超限信息为所述网关在判断所述业务请求为超限请求所返回的，所述网关基于所述业务请求对应服务器的业务承载量确定所述业务请求是否为超限请求；基于所述超限信息从预先存储的提示信息中选择对应的目标提示信息，并将所述目标提示信息进行渲染展示。6.根据权利要求5所述的方法，其特征在于，在所述基于所述超限信息从预先存储的提示信息中选择对应的目标提示信息，并将所述目标提示信息进行渲染展示之前，所述方法还包括：向所述服务器发送提示信息获取请求，以使所述服务器基于所述提示信息获取请求向所述终端返回超限提示页面与超限提示文案...

【专利技术属性】
技术研发人员：王育松，
申请(专利权)人：杭州网易再顾科技有限公司，
类型：发明
国别省市：