一种流量控制方法及装置制造方法及图纸

技术编号:17737423 阅读:158 留言:0更新日期:2018-04-18 13:27
本发明专利技术实施例提供一种流量控制方法及装置,其中的方法可包括:采用预置流量控制规则将请求设备的请求数据发送至服务设备;根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力;按照所述服务设备的服务能力动态调整所述预置流量控制规则。本发明专利技术能够根据服务设备的服务能力自适应调整流量控制规则,避免资源过载或资源浪费,提高资源利用率。

A flow control method and device

The embodiment of the invention provides a flow control method and device, the method can include the requesting device with preset flow control rules for sending data to the service equipment; according to the response data of the service request feedback to the equipment equipment determines whether the service equipment service ability; ability to dynamically adjust the service according to the service the equipment of the preset flow control rules. The invention can adjust the flow control rules adaptively according to the service capacity of the service equipment, avoid the resource overload or the waste of resources, and improve the utilization rate of resources.

【技术实现步骤摘要】
一种流量控制方法及装置
本专利技术涉及互联网
,具体涉及流量控制
,尤其涉及一种流量控制方法及装置。
技术介绍
限流技术主要是用作控制网络接口收发数据的速率,可以用来优化性能、减少延迟和提高带宽。随着互联网技术的发展,限流技术在互联网领域的应用越来越广泛,例如:电商网站在双十一、双十二等时间推出大型促销活动时,或者购票网站在国庆、春节等假期来临前,为了避免突发流量超过服务器的处理负荷引起过载风险,通常需要制定一些流量控制规则对请求数据进行限流控制。目前,较为常用的流量控制规则是将请求速率固定在一个恒定速率上,即要求请求设备以恒定速率向服务设备发送请求数据,这样做虽然在一定程度上实现了限流控制,但是存在一些问题:首先如何确定恒定速率本身是一个难题;其次,由于服务设备的服务能力并非一成不变的,当服务能力产生变化时,恒定的请求速率与服务能力不匹配,从而造成资源过载或资源浪费。
技术实现思路
本专利技术实施例提供一种流量控制方法及装置,能够根据服务设备的服务能力自适应调整流量控制规则,避免资源过载或资源浪费,提高资源利用率。本专利技术实施例第一方面提供一种流量控制方法,可包括:采用预置流量控制规则将请求设备的请求数据发送至服务设备;根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力;按照所述服务设备的服务能力动态调整所述预置流量控制规则。优选地,所述预置流量控制规则为流量控制算法;所述流量控制算法至少包括以下参数:控制速率及统计周期;所述服务设备的服务能力采用能力参数进行表示,所述能力参数包括以下至少一种:响应速率及成功响应速率。优选地,所述采用预置流量控制规则将请求设备的请求数据发送至服务设备,包括:确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率;判断所述请求速率是否超过所述控制速率;若未超过,则按照所述控制速率将所述请求数据发送至所述服务设备。优选地,所述按照所述服务设备的服务能力动态调整所述预置流量控制规则,包括:根据所述响应速率及成功响应速率计算请求成功率;若所述请求成功率大于或等于预置阀值,获取成功请求时长;若所述成功请求时长大于所述统计周期,根据所述成功响应速率及预置增长率计算第一目标速率;将所述控制速率调整为所述第一目标速率。优选地,所述按照所述服务设备的服务能力动态调整所述预置流量控制规则,还包括:若所述请求成功率小于预设阀值,从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率;将所述控制速率调整为所述第二目标速率。优选地,所述按照所述服务设备的服务能力动态调整所述预置流量控制规则之后,还包括:当检测到所述请求设备向所述服务设备再次发送请求数据时,采用调整后的预置流量控制规则控制所述请求数据的发送。本专利技术实施例第二方面提供一种流量控制装置,可包括:控制单元,用于采用预置流量控制规则将请求设备的请求数据发送至服务设备;确定单元,用于根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力;调整单元,用于按照所述服务设备的服务能力动态调整所述预置流量控制规则。优选地,所述预置流量控制规则为流量控制算法;所述流量控制算法至少包括以下参数:控制速率及统计周期;所述服务设备的服务能力采用能力参数进行表示,所述能力参数包括以下至少一种:响应速率及成功响应速率。优选地,所述控制单元包括:请求速率确定单元,用于确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率;判断单元,用于判断所述请求速率是否超过所述控制速率;发送单元,用于若未超过,则按照所述控制速率将所述请求数据发送至所述服务设备。优选地,所述调整单元包括:成功率计算单元,用于根据所述响应速率及成功响应速率计算请求成功率;时长获取单元,用于若所述请求成功率大于或等于预置阀值,获取成功请求时长;第一计算单元,用于若所述成功请求时长大于所述统计周期,根据所述成功响应速率及预置增长率计算第一目标速率;第一调整单元,用于将所述控制速率调整为所述第一目标速率。优选地,所述调整单元还包括:第二计算单元,用于若所述请求成功率小于预设阀值,从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率;第二调整单元,用于将所述控制速率调整为所述第二目标速率。优选地,所述控制单元还用于当检测到所述请求设备向所述服务设备再次发送请求数据时,采用调整后的预置流量控制规则控制所述请求数据的发送。本专利技术实施例中,可采用预置流量控制规则对请求数据进行限流控制,在限流控制过程中,根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力,再按照所述服务设备的服务能力动态调整所述预置流量控制规则;由于依据服务设备的服务能力对预置流量控制规则进行动态调整,这可使得请求速率与服务能力相互匹配,从而充分利用服务能力,有效避免资源过载或资源浪费,提升资源利用率。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1为本专利技术实施例提供的一种流量控制方法的流程图;图2为本专利技术实施例提供的另一种流量控制方法的流程图;图3为本专利技术实施例提供的一种流量控制装置的结构示意图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。限流技术主要是用作控制网络接口收发数据的速率,可以用来优化性能、减少延迟和提高带宽。限流技术在互联网领域的应用较为广泛,例如:电商网站在双十一、双十二等时间推出大型促销活动时,为了避免突发流量超过电商网站的服务设备的处理负荷而引起资源过载风险,需要制定流量控制规则来对电商用户的请求数据进行限流控制;再如:在国庆、春节等假期来临前,为了避免突发流量超过购票网站的服务设备的处理负荷而引起资源过载风险,通常需要制定一些流量控制规则对购票用户的请求数据进行限流控制。由于现有技术中的流量控制规则不够灵活,易产生请求速率与服务能力不匹配的问题,从而造成资源过载或资源浪费。为了解决现有技术的问题,本专利技术实施例提供了一种流量控制方案,具体在采用预置流量控制规则对请求数据进行限流控制的过程中,根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力,再按照所述服务设备的服务能力动态调整所述预置流量控制规则;由于依据服务设备的服务能力对预置流量控制规则进行动态调整,这可使得请求速率与服务能力相互匹配,从而充分利用服务能力,有效避免资源过载或资源浪费,提升资源利用率。需要说明的是,本专利技术实施例所提供的流量控制方案可以应用于互联网领域的各类场景中,例如:可以应用于网页爬虫系统中以控制页面爬取速度;再如:可以应用于对C(Client,客户端)-S(Server,服务器)之间的交互数据进行限流控制的场景;又如:可以应用于对服务设备的服务能力进行测试的场景中,等等。其中,请求设备是指本文档来自技高网...
一种流量控制方法及装置

【技术保护点】
一种流量控制方法,其特征在于,包括:采用预置流量控制规则将请求设备的请求数据发送至服务设备;根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力;按照所述服务设备的服务能力动态调整所述预置流量控制规则。

【技术特征摘要】
1.一种流量控制方法,其特征在于,包括:采用预置流量控制规则将请求设备的请求数据发送至服务设备;根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力;按照所述服务设备的服务能力动态调整所述预置流量控制规则。2.如权利要求1所述的方法,其特征在于,所述预置流量控制规则为流量控制算法;所述流量控制算法至少包括以下参数:控制速率及统计周期;所述服务设备的服务能力采用能力参数进行表示,所述能力参数包括以下至少一种:响应速率及成功响应速率。3.如权利要求2所述的方法,其特征在于,所述采用预置流量控制规则将请求设备的请求数据发送至服务设备,包括:确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率;判断所述请求速率是否超过所述控制速率;若未超过,则按照所述控制速率将所述请求数据发送至所述服务设备。4.如权利要求2所述的方法,其特征在于,所述按照所述服务设备的服务能力动态调整所述预置流量控制规则,包括:根据所述响应速率及成功响应速率计算请求成功率;若所述请求成功率大于或等于预置阀值,获取成功请求时长;若所述成功请求时长大于所述统计周期,根据所述成功响应速率及预置增长率计算第一目标速率;将所述控制速率调整为所述第一目标速率。5.如权利要求4所述的方法,其特征在于,所述按照所述服务设备的服务能力动态调整所述预置流量控制规则,还包括:若所述请求成功率小于预设阀值,从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率;将所述控制速率调整为所述第二目标速率。6.如权利要求1-5任一项所述的方法,其特征在于,所述按照所述服务设备的服务能力动态调整所述预置流量控制规则之后,还包括:当检测到所述请求设备向所述服务设备再次发送请求数据时,采用调整后的预置流量控制规则控制所述请求数据的发送。7.一...

【专利技术属性】
技术研发人员:徐承杰
申请(专利权)人:腾讯科技深圳有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1