【技术实现步骤摘要】
基于服务端实时反馈和软值的流量控制方法及相关设备
[0001]本公开涉及流量控制领域,并且更具体地,涉及一种基于服务端实时反馈和软值的流量控制方法及相关设备
。
技术介绍
[0002]在现代计算机系统中,流量控制是一种常见的,通过限制客户资源访问量,来限制系统资源占用并增加系统稳定型的设计
。
当提供服务的一方认为自身资源不足以提供更多的服务,或者访问一方的访问量达到设计的阈值时,提供服务的一方会采取措施阻止访问一方进一步的访问
。
[0003]以网络领域为例,常见的策略之一是
TCP
的拥塞控制,采用
AIMD
的反馈控制算法,在服务访问发生阻塞时(通常体现为超时),访问一方的发送窗口呈现积式减少,快速降低访问频率;而如果之后的服务访问顺利进行,发送窗口会呈现线性的增长,逐步恢复访问流量
。
采用相同策略的多个访问者最终能在资源占用上达成均衡
。
网络领域另一种策略是在服务一方资源不足时,对超额的访问返回特定错误码(而非 ...
【技术保护点】
【技术特征摘要】
1.
一种基于服务端实时反馈和软值的流量控制方法,其特征在于,应用于服务端,所述方法包括:获取目标单位时间中的负载状态;基于所述负载状态确定更新软阈值,所述更新软阈值用于表征服务端对外服务的建议流量;基于所述目标单位时间中维持的统计区间统计有效访问请求的数量,所述有效访问请求为所述目标单位时间中排除访问重试干扰后,余下的访问请求;根据所述更新软阈值
、
所述有效访问请求的数量和上一轮负载系数,计算得到更新负载系数;将所述更新负载系数发送至各个访问请求端,以便所述各个访问请求端基于所述更新负载系数调整对应访问请求端的初始流量阈值,得到更新流量阈值
。2.
根据权利要求1所述的方法,其特征在于,所述基于所述目标单位时间中维持的统计区间统计有效请求数量,包括:获取所述目标单位时间中接收到的所有访问请求;基于事先确定的请求字段特征值,在所述目标单位时间中对所述所有访问请求进行去重计数,得到所述有效访问请求的数量;所述根据所述更新软阈值
、
所述有效访问请求的数量和上一轮负载系数,计算得到更新负载系数,包括:计算所述更新软阈值与所述上一轮负载系数的第一乘积;获取所述第一乘积与所述有效访问请求的数量的第一比值,将所述第一比值作为所述更新负载系数
。3.
根据权利要求1所述的方法,其特征在于,各个访问请求端基于所述更新负载系数调整对应访问请求端的初始流量阈值,得到更新流量阈值,包括:针对每一所述访问请求端,计算所述更新负载系数与所述访问请求端的初始流量阈值的乘积,得到更新流量阈值;当所述更新流量阈值小于所述初始流量阈值时,将所述更新流量阈值作为最终更新流量阈值;当所述更新流量阈值大于或等于所述初始流量阈值时,将所述初始流量阈值时作为最终更新流量阈值
。4.
根据权利要求
1~3
任一项所述的方法,其特征在于,所述方法还包括:当访问请求端的数量和
/
或初始流量阈值发生变化时,获取变化对应的变化系数,所述变化系数为全局变化流量与所述更新负载系数的相乘结果;计算所述更新软阈值与所述上一轮负载系数的第二乘积;计算所述有效访问请求的数量与所述变化系数的和值;计算所述第二乘积与所述和值的第二比值;将所述第二比值确定为当前目标单位时间对应的更新负载系数
。5.
根据权利要求1所述的方法,其特征在于,所述获取目标单位时间中的负载状态,包括:获取服务端负载数据和所述服务端负载数据对应的网络流量数据;
从所述服务端负载数据中确定各个目标数据区段,所述各个目标数据区段是通过所述服务端负载数据中各个备选数据区段对应的负载状态推理可信系数从所述各个备选数据区段中筛选得到;对所述各个目标数据区段进行表征向量抽取,得到各个目标数据区段表征向量,以及对所述网络流量数据进行流量趋势表征向量抽取,得到网络流量表征向量;将所述网络流量表征向量分别与所述各个目标数据区段表征向量进行特征交互,得到各个负载流量整合表征向量;分别将所述各个负载流量整合表征向量进行特征压缩投影,得到各个投影表征向量,以及将所述各个投影表征向量进行特征交互,得到目标整合表征向量;通过所述目标整合表征向量进行负载状态检测,得到所述服务端负载数据和所述网络流量数据对应的负载状态
。6.
根据权利要求5所述的方法,其特征在于,所述方法还包括:将所述服务端负载数据和所述网络流量数据加载至负载状态检测网络;所述负载状态检测网络从所述服务端负载数据中确定各个目标数据区段,对所述各个目标数据区段进行表征向量抽取,得到各个目标数据区段表征向量,以及对所述网络流量数据进行流量趋势表征向量抽取,得到网络流量表征向量,将所述网络流量表征向量分别与所述各个目标数据区段表征向量进行特征交互,得到各个负载流量整合表征向量,分别将所述各个负载流量整合表征向量进行特征压缩投影,得到各个投影表征向量,以及将所述各个投影表征向量进行特征交互,得到目标整合表征向量,通过所述目标整合表征向量进行负载状态检测,得到所述服务端负载数据和所述网络流量数据对应的负载状态;其中,所述负载状态检测网络包括负载数据表征向量抽取模块
、
流量表征向量抽取模块
、
表征向量整合模块和分类检测模块;所述将所述服务端负载数据和所述网络流量数据加载至负载状态检测网络,包括:将所述服务端负载数据加载至所述负载数据表征向量抽取模块中确定各个目标数据区段,以及对所述各个...
【专利技术属性】
技术研发人员:解绘绘,
申请(专利权)人:北京乐讯科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。