代理实例管理方法、装置、电子设备及存储介质制造方法及图纸

本公开涉及一种代理实例管理方法、装置、电子设备及存储介质，通过基于预设的配置信息对代理实例进行初始配置，接收控制面代理发送的服务请求监测数据，服务请求监测数据是控制面代理从服务接口获取得到的，获取代理实例的负载值，基于服务请求监测数据对代理实例进行管理，或基于代理实例的负载值对代理实例进行管理。本公开由于根据服务请求监测数据或代理实例负载情况，对代理实例进行动态管理，提高了代理实例管理的灵活性，可以实现当云服务器节点上业务增大时，对代理实例扩增，以避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求；当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。置和浪费。置和浪费。

【技术实现步骤摘要】
代理实例管理方法、装置、电子设备及存储介质


[0001]本公开涉及数据处理领域，尤其涉及一种代理实例管理方法、装置、电子设备及存储介质。

技术介绍

[0002]数据处理器(Data Processing Unit，DPU)是以数据为中心、I/O密集型、采用软件定义技术路线支撑基础设施资源层虚拟化，具备提升计算系统效率、降低整体系统的总拥有成本，并提高数据处理效能、降低其他计算芯片性能损耗的新一代计算芯片。
[0003]服务网格(Service Mesh)是云服务中的一个基础设施层，专注于实现微服务间服务请求的可靠传递，并在其基础上提供服务发现、负载均衡、请求路由和规则配置等流量控制层面操作。当前DPU上通常使用多个代理实例与云服务器节点上的应用服务组成云原生服务网格，在DPU上部署足够多的代理实例虽然能够承载云服务器节点上所有的并发流量。
[0004]但是，所部署的代理实例的数量是静态的，无法随着业务需求动态增加或缩减，存在以下问题：1)当云服务器节点上业务突然增大时，DPU上部署的代理实例数量无法满足服务请求和业务流量转发，会引起处理器或内存不足，发生单个数据报文处理时间增加、服务请求延迟增大、抖动增大导致服务不稳定或服务流量被丢弃导致大量重传等；2)当云服务器节点上业务流量减少时，预先部署的代理实例过多而导致DPU处理器、内存资源闲置和浪费。

技术实现思路

[0005]为了解决上述技术问题，本公开提供了一种代理实例管理方法、装置、电子设备及存储介质，以对代理实例进行动态管理。/>[0006]第一方面，本公开实施例提供一种代理实例管理方法，包括：
[0007]基于预设的配置信息对代理实例进行初始配置；
[0008]接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的；
[0009]获取代理实例的负载值；
[0010]基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。
[0011]在一些实施例中，所述基于预设的配置信息对代理实例进行初始配置，包括：
[0012]根据所述预设的配置信息得到所述代理实例与服务请求之间的对应关系；
[0013]从所述对应关系中确定与所述代理实例对应的目标服务请求；
[0014]将所述代理实例与所述目标服务请求建立连接。
[0015]在一些实施例中，所述获取代理实例的负载值，包括：
[0016]计算所述代理实例的中央处理器以及内存的资源占用率；
[0017]从所述资源占用率与所述负载值的对应关系中确定与所述代理实例的中央处理
器以及内存的资源占用率对应的所述代理实例的负载值。
[0018]在一些实施例中，所述基于所述服务请求监测数据对代理实例进行管理，包括：
[0019]判断所述服务请求监测数据是否满足代理实例的扩增条件；
[0020]若满足所述代理实例的扩增条件，则对代理实例进行扩增；
[0021]所述基于所述代理实例的负载值对代理实例进行管理，包括：
[0022]根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。
[0023]在一些实施例中，所述服务请求监测数据包括如下至少一种：
[0024]吞吐量数据、重传率、响应时长；
[0025]所述判断所述服务请求监测数据是否满足代理实例的扩增条件，包括：
[0026]若所述吞吐量数据小于预设吞吐量阈值，或所述重传率大于预设重传率阈值，或所述响应时长大于预设响应时长阈值，则满足代理实例的扩增条件；
[0027]若所述吞吐量数据大于或等于所述预设吞吐量阈值、所述重传率5小于或等于所述预设重传率阈值、且所述响应时长小于或等于所述预
[0028]设响应时长阈值，则不满足代理实例的扩增条件。
[0029]在一些实施例中，所述根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减，包括：
[0030]若所述代理实例的负载值小于或等于预设的第一负载值阈值，则0对代理实例进行缩减；
[0031]若所述代理实例的负载值大于或等于预设的第二负载值阈值，则对代理实例进行扩增；
[0032]若所述代理实例的负载值大于所述预设的第一负载值阈值且小于所述预设的第二负载值阈值，则将代理实例保持不变。
[0033]5在一些实施例中，所述对代理实例进行缩减，包括：
[0034]断开所述代理实例与服务请求之间的连接，并对所述代理实例进行资源回收；
[0035]所述对代理实例进行扩增，包括：
[0036]从服务网格控制面获取新增的代理实例的配置信息；0根据所述新增的代理实例的配置信息确定与所述新增的代理实例
[0037]连接的服务请求；
[0038]将所述新增的代理实例与所述服务请求建立连接。
[0039]第二方面，本公开实施例提供一种代理实例管理装置，包括：
[0040]配置模块，用于基于预设的配置信息对代理实例进行初始配置；5接收模块，用于接收控制面代理发送的服务请求监测数据，所述
[0041]服务请求监测数据是控制面代理从服务接口获取得到的；
[0042]获取模块，用于获取代理实例的负载值；
[0043]管理模块，用于基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。
[0044]第三方面，本公开实施例提供一种电子设备，包括：
[0045]存储器；
[0046]处理器；以及
[0047]计算机程序；
[0048]其中，所述计算机程序存储在所述存储器中，并被配置为由所述处理器执行以实现如第一方面或第二方面所述的方法。
[0049]第四方面，本公开实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行以实现如第一方面所述的方法。
[0050]第五方面，本公开实施例还提供了一种计算机程序产品，该计算机程序产品包括计算机程序或指令，该计算机程序或指令被处理器执行时实现如第一方面所述的方法。
[0051]本公开实施例提供的代理实例管理方法、装置、电子设备及存储介质，通过基于预设的配置信息对代理实例进行初始配置，接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的，获取代理实例的负载值，基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。本公开由于根据服务请求监测数据或代理实例负载情况，对代理实例进行动态管理，提高了代理实例管理的灵活性，可以实现当云服务器节点上业务增大时，对代理实例扩增，以避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求；当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。
附图说明
...

【技术保护点】

【技术特征摘要】
1.一种代理实例管理方法，其特征在于，包括：基于预设的配置信息对代理实例进行初始配置；接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的；获取代理实例的负载值；基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。2.根据权利要求1所述的方法，其特征在于，所述基于预设的配置信息对代理实例进行初始配置，包括：根据所述预设的配置信息得到所述代理实例与服务请求之间的对应关系；从所述对应关系中确定与所述代理实例对应的目标服务请求；将所述代理实例与所述目标服务请求建立连接。3.根据权利要求1所述的方法，其特征在于，所述获取代理实例的负载值，包括：计算所述代理实例的中央处理器以及内存的资源占用率；从所述资源占用率与所述负载值的对应关系中确定与所述代理实例的中央处理器以及内存的资源占用率对应的所述代理实例的负载值。4.根据权利要求1所述的方法，其特征在于，所述基于所述服务请求监测数据对代理实例进行管理，包括：判断所述服务请求监测数据是否满足代理实例的扩增条件；若满足所述代理实例的扩增条件，则对代理实例进行扩增；所述基于所述代理实例的负载值对代理实例进行管理，包括：根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。5.根据权利要求4所述的方法，其特征在于，所述服务请求监测数据包括如下至少一种：吞吐量数据、重传率、响应时长；所述判断所述服务请求监测数据是否满足代理实例的扩增条件，包括：若所述吞吐量数据小于预设吞吐量阈值，或所述重传率大于预设重传率阈值，或所述响应时长大于预设响应时长阈值，则满足代理实例的扩增条件；若所述吞吐量数据大于或等于所述预设吞吐量阈值、所述重传率小于或等于所述预设重传率阈值、且所述响应...

【专利技术属性】
技术研发人员：王绍坤，黄明亮，
申请(专利权)人：中科驭数北京科技有限公司，
类型：发明
国别省市：