System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于时序调用图的无服务系统自适应扩缩容方法和装置制造方法及图纸_技高网

一种基于时序调用图的无服务系统自适应扩缩容方法和装置制造方法及图纸

技术编号:40083184 阅读:7 留言:0更新日期:2024-01-23 15:03
本发明专利技术实现了一种基于时序调用图的无服务系统自适应扩缩容方法。首在函数测拦截网络请求;周期性地获取一定时间切片内的服务调用信息与机器性能指标,以函数实例为节点,调用请求为边,调用请求数量作为边属性构建时序调用图,这些指标信息拼接在一起,经过归一化后,作为节点属性向量而存在;获取指定切片数量的时序调用图后,依次输入STGCN,预测未来时刻各个函数实例的属性向量,并反向归一化成函数实例的各项机器性能指标;基于预测的各项机器性能指标,与预先设定的各项属性阈值进行比较,产生相应的扩缩容决策。解决在科学计算场景下,无服务计算平台扩缩容无法依据实时变化的计算负载情况进行精细地扩缩容导致的服务质量下降或资源浪费等问题。

【技术实现步骤摘要】

本专利技术涉及云计算,尤其涉及一种基于时序调用图的无服务系统自适应扩缩容方法和装置


技术介绍

1、科学计算是指应用数学、物理学和计算机科学等学科的知识,通过计算机来进行数据处理和模拟实验的过程。科学计算在社会生产和科学研究中具有重要作用,广泛应用于自然科学、工程技术、医学、金融等领域。

2、随着计算机技术的发展,特别是云计算、大数据、人工智能等技术的兴起,科学计算也得到了前所未有的发展。例如,科学家们可以利用云计算平台上的大规模计算资源,对海量数据进行高效处理和分析,加速科学研究的进程。同时,面向科学计算的无服务系统也走进了人们的视野,其具有高扩展性、灵活性和低成本等优点,已经成为科学计算领域的重要研究方向。

3、无服务计算是一种云原生应用编程范式,它将应用程序划分为较小的函数单元,在需要时按需执行,而无需进行服务器和容器管理。无服务计算为开发人员提供了一种快速部署代码的方式,并可以极大地减少管理基础架构的时间。然而,在无服务计算中,容器的启动时间、冷启动时间等均存在一定的开销。因此,无服务计算环境中的扩缩容策略对于应用的性能和成本起着至关重要的作用。

4、目前的无服务计算扩缩容系统采用规则引擎进行静态阈值的判断。但是,这种系统往往无法根据实时变化的负载情况对应用程序的规模进行精细调控,导致应用程序在某些时候存在过剩的资源浪费和某些时候存在资源不足的情况。因此,需要一种能够根据实时负载情况自适应扩缩容的方法,以更好地满足应用程序的性能和成本要求。


技术实现思路b>

1、为此,本专利技术首先提出一种基于时序调用图的无服务系统自适应扩缩容方法,该方法包括:

2、在函数测拦截网络请求,提取其上游函数请求或者外部服务请求,形成函数调用链路,同时获取函数运行的机器性能指标和服务性能指标,cpu、内存使用率、请求成功率、服务e2e延迟;

3、周期性地获取一定时间切片内的服务调用信息与机器性能指标,以函数实例为节点,调用请求为边,函数平均cpu使用率、平均内存使用率、平均请求成功率和平均e2e延迟作为节点属性,调用请求数量作为边属性构建时序调用图,这些指标信息会拼接在一起,经过归一化后,作为节点属性向量而存在。这些特意筛选和处理后的向量,依次输入时序预测模型stgcn,预测未来时刻各个函数实例的属性向量,并反向归一化成函数实例的各项机器性能指标;

4、基于预测的各项机器性能指标,与预先设定的各项属性阈值进行比较,产生相应的扩缩容决策。

5、还包括一种无服务平台函数调度的装置,该装置包括:

6、代理边车,其部署于每一个函数实例,是函数创建的前置容器,其提供两方面的功能:

7、网络代理功能,该容器作为整个函数的入口,对平台内外提供网络流量代理服务,同时对网络流量提供认证加密服务,同时该容器会在启动后,对函数容器的系统网络设置进行初始化以配合代理功能;

8、性能指标检测功能,该容器应用所述一种基于时序调用图的无服务系统自适应扩缩容方法,定期检查函数的各项性能指标,包括机器性能指标和服务性能指标,其中指标信息包括容器的cpu、内存使用率、请求成功率、服务e2e延迟,函数调用信息为集群内各个函数的被调关系,分为集群内调用和集群外调用,并对外开放指标获取接口;

9、该代理边车还会周期性地向信息收集组件发送心跳信号,报告容器健康状态以及函数容器的状态;

10、信息收集组件,周期性扫描集群内各个函数实例,通过代理边车开放的指标获取接口获取函数实例的各项性能指标和函数调用信息,并将信息存入时序数据库,同时也会接受来自代理边车的心跳信号,维护各个函数实例的状态;

11、时序调用图构建组件,定期从时序数据库中获取指定切片数量的时间切片内数据,应用服务调用信息构建图结构,以函数实例为节点,各项指标信息为节点属性构建时许调用图,其中各项指标信息会在凭借后统一归一化后以向量形式表现;

12、时序调用图分析组件,会以时许调用图构建组件产生指定切片数量的图为输入,对未来时间切片的时许调用图进行预测,通过反归一化操作,得到未来时间切片内无服务平台的整体运行状态。

13、本专利技术所要实现的技术效果在于:

14、本专利技术的目的在于揭示一种面向科学计算无服务系统时序调用的自适应扩容方法和装置,解决在科学计算场景下,无服务计算平台扩缩容无法依据实时变化的计算负载情况进行精细地扩缩容导致的服务质量下降或资源浪费等问题。通过捕获函数实例间的调用请求与外部服务请求构建时序调用图,在输入时序预测模型后对未来无服务平台状态进行预测,在服务高峰来临之前提前对集群进行自适应缩扩容。

本文档来自技高网...

【技术保护点】

1.一种基于时序调用图的无服务系统自适应扩缩容方法,其特征在于:方法包括:

2.一种无服务平台函数调度的装置,其特征在于:该装置包括:

3.如权利要求2所述的一种无服务平台函数调度的装置,其特征在于:所述函数的初始化方式步骤具体为:

4.如权利要求2所述的一种无服务平台函数调度的装置,其特征在于:所述时序调用图构建组件的具体实现步骤为:

5.如权利要求2所述的一种无服务平台函数调度的装置,其特征在于:所述决策步骤为:

【技术特征摘要】

1.一种基于时序调用图的无服务系统自适应扩缩容方法,其特征在于:方法包括:

2.一种无服务平台函数调度的装置,其特征在于:该装置包括:

3.如权利要求2所述的一种无服务平台函数调度的装置,其特征在于:所述函数的...

【专利技术属性】
技术研发人员:李建欣刘崇鹏季诚周号益邰振赢虞世城
申请(专利权)人:北京航空航天大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1