System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于边缘计算的CDN低成本实时流量统计方法技术_技高网

基于边缘计算的CDN低成本实时流量统计方法技术

技术编号:41008851 阅读:2 留言:0更新日期:2024-04-18 21:44
本发明专利技术公开了基于边缘计算的CDN低成本实时流量统计方法,具体涉及云计算技术领域,包括根据边缘计算架构对全网流量进行流量统计;根据业务组对边缘节点进行边缘流量计算;所述边缘流量计算方法包括过滤算法和合并算法;对全网流量进行低成本统计,所述低成本统计包括轻量边缘计算和分布式并行计算,本发明专利技术通过边缘计算架构,并行统计全网流量,有效减轻中心服务器统计压力,充分利用CDN边缘节点多的优势,边缘计算同时距离原始数据最近,大幅度减少数据的跨机房传输,减少数据延迟。

【技术实现步骤摘要】

本专利技术涉及云计算,更具体地说,本专利技术涉及基于边缘计算的cdn低成本实时流量统计方法。


技术介绍

1、随着国内科技发展,短视频业务快速普及,cdn业务不断扩大,业务流量水涨船高,但是利润空间不断压缩,对云计算公司来说,对其cdn业务运营能力提出越来越高的要求。例如:根据业务、带宽单价、灵活实行成本优先以及性能优先等调度策略;根据机房上联带宽,保底带宽实行成本优先调度;热点流量暴增时快速削峰;闲置带宽跑满保底,上述对cdn调度系统的要求,本质上都需要依赖实时高效的cdn业务流量统计模块。

2、目前,各家云厂商主要是通过实时流量日志统计,机房出口带宽图,设备mrtg图进行流量统计,但普遍无法根据具体的业务域名或指定内容进行差异化统计,同时实时流量带宽相对延迟较高,无法满足需求。


技术实现思路

1、为了克服现有技术的上述缺陷,本专利技术的实施例提供基于边缘计算的cdn低成本实时流量统计方法,以解决上述
技术介绍
中提出的问题。

2、为实现上述目的,本专利技术提供如下技术方案:基于边缘计算的cdn低成本实时流量统计方法,包括:

3、根据边缘计算架构对全网流量进行流量统计;

4、根据业务组对边缘节点进行边缘流量计算;所述边缘流量计算方法包括过滤算法和合并算法;

5、对全网流量进行低成本统计,所述低成本统计包括轻量边缘计算和分布式并行计算。

6、进一步地,根据边缘计算架构对全网流量进行流量统计的方法包括:

7、布局边缘计算架构:在网络拓扑结构中,将边缘节点部署在靠近流量日志的位置,利用cdn边缘节点的多样性,将流量接入点分散;

8、在cdn边缘网关进行流量统计:在cdn边缘网关中,设置流量统计模块,用于监测和记录从边缘节点到中心节点的流量,利用cdn边缘网关的计算能力计算流量,以获得流量统计数据,统计的内容包括不同边缘节点的数据传输量、服务请求次数;

9、在数据瓶颈区域设置n个边缘节点:根据流量分布和数据瓶颈情况,在网络中设置n个边缘节点;边缘节点用于汇总和处理相应区域内的流量信息;

10、边缘节点将计算结果汇总:在每个边缘节点进行本地的边缘计算,以获得流量统计结果;所述流量统计结果包括每个边缘节点的流量情况与服务负载;

11、在中心节点中的内存hash表存储流量统计结果;

12、对全网流量进行流量统计:中心节点接收到来自各边缘节点的流量统计结果后,在内存hash表中进行更新和整合;通过少量的计算统计全网范围内的流量;中心节点提供实时的流量统计数据和历史数据的查询和分析。

13、进一步地,所述过滤算法对边缘节点进行边缘流量计算的步骤包括:

14、对边缘流量进行需求分析和配置,以获得流量筛选策略并下发至cdn网关;根据业务组的特点和流量需求,定义边缘节点;根据cdn内容特征配置流量筛选策略,所述cdn内容特征包括后缀名文件名、内容大小、修改时间、请求头以及响应头;

15、cdn网关对流量筛选策略进行分析:cdn网关接送配置的流量筛选策略,并进行解析和存储,将配置的流量筛选策略应用到cdn网关的流量管理模块中;

16、cdn网关匹配相应的业务组的请求,以获得筛选流量:具体地,cdn网关接收原始cdn请求时,根据配置的流量筛选策略匹配对应的业务组请求,所述匹配的方式是根据cdn内容特征进行解析和对比;

17、cdn网关对筛选流量进行统计,以获得统计结果。

18、进一步地,所述合并算法对边缘节点进行边缘流量统计的步骤包括:

19、在每个统计周期开始时,cdn网关中的流量统计模块清零当前周期的流量累计值;

20、流量统计模块监听边缘节点收到的请求,并根据配置的流量筛选策略,识别并累加符合相应的业务组请求的流量;

21、在统计周期结束时,流量统计模块将累计的流量值保存,并自动清零,为下个统计周期做准备;

22、根据配置的流量筛选策略,统计模型选择上个周期的统计结果通过定时上报或直接上报至中心节点;

23、边缘节点不存储历史统计周期的结果;

24、根据当前时间取模来确定当前统计周期。

25、进一步地,对全网流量进行轻量边缘计算的方法包括:

26、将全网计算任务分解为m个子任务,利用任务分解策略,将每个子任务按照性质和计算需求分配至不同的边缘节点;m为大于0的正整数;

27、制定成本模型,并根据成本模型评估每个边缘节点执行任务的成本,并在任务分配过程中优化最小化整体成本;

28、实施动态任务调度机制,根据边缘节点的实时负载情况、计算性能和成本模型,动态调整任务分配;根据子任务的紧急程度、执行时间以及边缘节点的实时性能指标,以实现均摊计算成本;

29、将每个子任务就近分发至边缘节点;

30、引入动态负载均衡机制,检测边缘节点的负载状态,并根据负载情况实时调整任务的分配。

31、进一步地,对全网流量进行分布式并行计算的方法包括:

32、将全网流量汇总任务根据划分规则划分为i个子任务,每个子任务负责收集和汇总边缘节点的流量信息;所述划分规则包括网络拓扑、地理位置和运营商信息;i为大于0的正整数;

33、设计分布式流量汇总框架,并协调不同边缘节点上的流量汇总任务;

34、采用压缩和分块传输技术优化全网流量的数据传输;

35、将不同运营商、不同地区的流量汇总任务同时在每个边缘节点上执行;

36、在每个子任务完成后,中心节点合并每个边缘节点的计算结果,形成全网流量汇总数据。

37、进一步地,根据cdn内容特征进行解析和对比的方法包括:

38、cdn网关解析原始cdn请求信息,所述请求信息包括url、http头部与参数;

39、从cdn请求信息中提取cdn内容特征;

40、通过图形用户界面或配置文件定义cdn内容特征匹配对应的业务组;

41、cdn网关将从cdn请求中提取的内容特征与流量筛选策略中配置规则进行对比;

42、确定匹配的业务组,cdn网关将原始cdn请求转发到对应的业务组。

43、进一步地,在中心节点中的内存hash表存储流量统计结果的方法是将每个边缘节点计算得到的流量统计结果发送至中心节点;在中心节点维护一个内存中的hash表,所述hash表用于存储全网范围的流量统计信息;所述hash表的设计根据需求选择对应的数据结构。

44、第二方面,本专利技术提供一种电子设备,包括:处理器和存储器,其中,所述存储器中存储有可供处理器调用的计算机程序;

45、所述处理器通过调用所述存储器中存储的计算机程序,执行上述的基于边缘计算的cdn低成本实时流量统计方法。

46、第三方面,本专利技术提供一种计算机可读存储介质,储存有指令,当所本文档来自技高网...

【技术保护点】

1.基于边缘计算的CDN低成本实时流量统计方法,其特征在于,包括:

2.根据权利要求1所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,根据边缘计算架构对全网流量进行流量统计的方法包括:

3.根据权利要求2所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,所述过滤算法对边缘节点进行边缘流量计算的步骤包括:

4.根据权利要求3所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,所述合并算法对边缘节点进行边缘流量统计的步骤包括:

5.根据权利要求4所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,对全网流量进行轻量边缘计算的方法包括:

6.根据权利要求5所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,对全网流量进行分布式并行计算的方法包括:

7.根据权利要求6所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,根据CDN内容特征进行解析和对比的方法包括:

8.根据权利要求7所述的基于边缘计算的CDN低成本实时流量统计方法,其特征在于,在中心节点中的内存Hash表存储流量统计结果的方法是将每个边缘节点计算得到的流量统计结果发送至中心节点;在中心节点维护一个内存中的Hash表,所述Hash表用于存储全网范围的流量统计信息;所述Hash表的设计根据需求选择对应的数据结构。

9.一种电子设备,其特征在于,包括:处理器和存储器,其中,所述存储器中存储有可供处理器调用的计算机程序;

10.一种计算机可读存储介质,其特征在于,储存有指令,当所述指令在计算机上运行时,使得计算机执行如权利要求1-8中任一项所述的基于边缘计算的CDN低成本实时流量统计方法。

...

【技术特征摘要】

1.基于边缘计算的cdn低成本实时流量统计方法,其特征在于,包括:

2.根据权利要求1所述的基于边缘计算的cdn低成本实时流量统计方法,其特征在于,根据边缘计算架构对全网流量进行流量统计的方法包括:

3.根据权利要求2所述的基于边缘计算的cdn低成本实时流量统计方法,其特征在于,所述过滤算法对边缘节点进行边缘流量计算的步骤包括:

4.根据权利要求3所述的基于边缘计算的cdn低成本实时流量统计方法,其特征在于,所述合并算法对边缘节点进行边缘流量统计的步骤包括:

5.根据权利要求4所述的基于边缘计算的cdn低成本实时流量统计方法,其特征在于,对全网流量进行轻量边缘计算的方法包括:

6.根据权利要求5所述的基于边缘计算的cdn低成本实时流量统计方法,其特征在于,对全网流量进行分布式并行计算的方法包括:

【专利技术属性】
技术研发人员:石仁吴林江张力方
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1