一种基于机器健康值的热点扩散方法及系统技术方案

技术编号:40966456 阅读:15 留言:0更新日期:2024-04-18 20:46
本发明专利技术公开了一种基于机器健康值的热点扩散方法及系统,涉及IT与软件开发,CDN领域,包括:探测存储模块,用于CDN网关启动后周期性的对后端缓存服务器组进行存活探测;监控告警模块,用于周期性对后端缓存服务器探测和健康值数据进行分析;请求处理模块,用于接收客户请求,当请求数未达到阈值,为非热点请求,使用url一致性哈希方法计算出对应的缓存服务器,将请求进行转发,当请求数达到阈值时,为热点请求,进入热点扩散模块处理;热点扩散模块,用于及时应对后端机器的负载变化,达到负载均衡。本发明专利技术解决了单一资源过热造成缓存服务器压力过大和传统的无差异轮询方法造成的负载不均现象。

【技术实现步骤摘要】

本专利技术属于it与软件开发,cdn,具体为一种基于机器健康值的热点扩散方法及系统


技术介绍

1、当前cdn(content delivery network,内容分发网络)技术中,会在全球各地部署边缘节点,就近为用户提供高质量、高效率、低时延的网络服务。每个边缘节点有一组缓存服务器来支撑大量的文件请求,当客户请求到来时,通过不同策略将流量调度到节点中的缓存服务器上。节点组机器一般采用cdn网关搭配缓存服务器的架构,cdn网关经常使用url一致性哈希算法将同一资源哈希到相同的缓存服务器,用以提高缓存命中率,减少回源。但是这种方法也存在一定的弊端,当某个资源在高峰时刻请求访问过热时会造成后端缓存服务器负载过高,通过url哈希造成单一缓存服务器压力过大,会出现请求处理较慢甚至缓存服务器崩溃,容易引发客户投诉。

2、对于热点资源,cdn网关还能使用固定或加权轮询方式对url进行扩散到后端缓存服务器,但是这种方法是无差别的对后端缓存服务器列表进行轮询,节点内每台主机的热点扩散的顺序策略是一致的。这样对于本身后端缓存服务器负载较高或本身机器性能较差的缓本文档来自技高网...

【技术保护点】

1.一种基于机器健康值的热点扩散方法,其特征在于:包括以下具体步骤:

2.根据权利要求1所述的一种基于机器健康值的热点扩散方法,其特征在于:所述机器健康值通过最大最小标准化方法量化机器的健康状态得到,机器健康值为0到1的常量,对应机器状态从不健康到健康,0为机器异常,1为机器最健康,获取机器健康值数据集其中,n表示缓存服务器数量,h_valuen表示第n个缓存服务器的机器健康值,并定时探测缓存服务器组内各机器存活状态。

3.根据权利要求2所述的一种基于机器健康值的热点扩散方法,其特征在于:所述缓存服务器组内各机器存活状态通过设置正常响应阈值T_res探测,当连续3...

【技术特征摘要】

1.一种基于机器健康值的热点扩散方法,其特征在于:包括以下具体步骤:

2.根据权利要求1所述的一种基于机器健康值的热点扩散方法,其特征在于:所述机器健康值通过最大最小标准化方法量化机器的健康状态得到,机器健康值为0到1的常量,对应机器状态从不健康到健康,0为机器异常,1为机器最健康,获取机器健康值数据集其中,n表示缓存服务器数量,h_valuen表示第n个缓存服务器的机器健康值,并定时探测缓存服务器组内各机器存活状态。

3.根据权利要求2所述的一种基于机器健康值的热点扩散方法,其特征在于:所述缓存服务器组内各机器存活状态通过设置正常响应阈值t_res探测,当连续3次没有收到正常响应则认为该机器宕机,处于不可用状态,此时机器为不健康状态,健康值0;若连续3次收到正常响应则认为该机器正常,并以每1分钟为周期更新机器健康值实现实时监测;计算后端不健康机器比例,设置不可用机器比例阈值,若是后端不健康机器比例高于所述不可用机器比例阈值,将告警到平台通知运维。

4.根据权利要求3所述的一种基于机器健康值的热点扩散方法,其特征在于:所述s2还包括,若url资源未达到过热,则使用url一致性哈希方法将请求转发往对应的缓存服务器,若url资源达到过热,则根据组内缓存服务机器存活情况和健康值状态,动态计算出组内当前可用后端缓存服务器的权重比例,将周期内所有的过热请求都按健康值权重进行扩散。

5.根据权利要求4所述的一种基于机器健康值的热点扩散方法,其特征在于:所述url热度通过滑动窗口来统计,在热点场景下,通过当前组内各个缓存服务器的健康值计算出各自的扩散比例,所述扩散比例计算公式为:得到各个缓存服务器热点扩散比例数据集其中,percentn表示第n个缓存服务器热点扩散比例。

6.根据权利要求5所述的...

【专利技术属性】
技术研发人员:王志刚谢东雷陈明霞谢绵隆魏淑婷
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1