System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种服务网格系统以及基于服务网格系统的信息传输方法技术方案_技高网

一种服务网格系统以及基于服务网格系统的信息传输方法技术方案

技术编号:40795757 阅读:5 留言:0更新日期:2024-03-28 19:23
本申请公开了一种服务网格系统以及信息传输方法,可令代表用户需求的服务请求被及时且顺利地处理,从而提高用户体验。本申请的系统包括:第一代理,用于接收客户端发送的服务请求,若确定自身不适合完成针对服务请求的流量治理,则从N个代理中确定第二代理,并向第二代理发送服务请求,第一代理与客户端位于第一网格节点,第二代理位于第二网格节点;第二代理,用于对服务请求进行流量治理,得到第一治理结果,并基于第一治理结果向第三代理发送服务请求;第三代理,用于若确定自身适合完成针对服务请求的流量治理,则对服务请求进行流量治理,得到第二治理结果,并基于第二治理结果向服务端发送服务请求,第三代理与服务端位于第三网格节点。

【技术实现步骤摘要】

本申请实施例涉及云,尤其涉及一种服务网格系统以及基于服务网格系统的信息传输方法


技术介绍

1、服务网格(service mesh,sm)系统可由多个相互连接的网格节点构成,网格节点通常部署有微服务以及与微服务绑定的边车(sidecar)代理,微服务的所有流量均由代理接管,从而实现灵活、精细的微服务流量管理。

2、目前的服务网格系统中,若第一网格节点中的第一微服务需要调用第二网格节点中的第二微服务,且第一网格节点还包含第一代理,第二网格节点还包括第二代理,则第一微服务和第二微服务的通信流程为:第一微服务向第一代理发送服务请求,第一代理对服务请求进行解码、流量治理以及编码等等后,可向第二代理发送服务请求,第二代理再向第二微服务发送服务请求,以使得第二微服务对服务请求进行处理,得到服务响应。

3、然而,第一代理在转发服务请求时,需要进行解码、流量治理以及编码等一系列操作,这些操作需耗费大量的中央处理器(central processing unit,cpu)资源,若此时cpu资源不够使用,所需转发的服务请求往往会被第一代理暂缓处理或拒绝处理,而服务请求往往代表着用户的需求,这样会导致用户体验不佳。


技术实现思路

1、本申请实施例提供了一种服务网格系统以及基于服务网格系统的信息传输方法,可以令代表用户需求的服务请求被及时且顺利地处理,从而提高用户体验。

2、本申请实施例的第一方面提供了一种服务网格系统,该系统包括:第一网格节点、第二网格节点、第三网格节点以及代理管理中心,第一网格节点包括第一代理以及客户端,第二网格节点包含第二代理,第三网格节点包括第三代理以及服务端。

3、当存在用户所要求处理的待处理数据时,客户端可生成包含待处理数据的服务请求,并将服务请求发送至第一代理。接收客户端发送的服务请求后,第一代理可检测自身是否适合完成针对服务请求的流量治理。

4、若确定自身不适合完成针对服务请求的流量治理,第一代理则向代理管理中心发送第一查询请求,代理管理中心可基于第一查询请求向第一代理提供n个辅助代理(这n个辅助代理已在代理管理中心处完成注册)。那么,第一代理可在这n个辅助代理中,选择一个辅助代理作为第二代理,并将服务请求发送至第二代理,n为大于或等于1的正整数。

5、接收到服务请求后,第二代理可对服务请求进行流量治理,得到第一治理结果。然后,第二代理可基于第一治理结果,向第三代理发送服务请求。接收到第二代理发送的服务请求后,第三代理可检测自身是否适合完成针对服务请求的流量治理。

6、若确定自身适合完成针对服务请求的流量治理,第三代理则对服务请求进行流量治理,得到第二治理结果,并基于第二治理结果向服务端发送服务请求,以使得服务端对服务请求进行处理。

7、从上述系统可以看出:在接收到客户端发送的服务请求后,第一代理若确定自身不适合完成针对服务请求的流量治理后,可从代理管理中心提供的多个代理中选择第二代理,由第二代理来替代完成针对服务请求的流量治理,并及时将服务请求发送至第三代理,进而使得第三代理及时将服务请求发送至服务端。由此可见,即使第一代理所在的第一节点的cpu资源紧张,第一代理对来自客户端的服务请求所需执行的操作可以拉远到第二代理来执行,以使得服务请求及时达到第三代理以及服务端,从而在服务端处完成处理,也就是说,用户的需求可被及时且顺利满足,故可有效提高用户体验。

8、在一种可能实现的方式中,第一代理,用于若确定满足预置条件,则确定自身不适合完成针对服务请求的流量治理,预置条件包含以下至少一项:服务请求的接收时刻与当前时刻之间的差值大于第一阈值,第一节点的cpu使用率大于第二阈值,以及客户端发送的先前服务请求的处理时长大于第三阈值。前述实现方式中,第一代理判断是否满足预置条件,若满足预置条件,说明第一节点的cpu已超负荷,第一代理则确定自身不适合完成针对服务请求的流量治理,若不满足预置条件,说明第一节点的cpu未超负荷,第一代理则确定自身适合完成针对服务请求的流量治理。其中,预置条件包含以下至少一项:客户端发送的服务请求的接收时刻与当前时刻之间的差值大于第一阈值;第一节点在当前时刻的cpu使用率大于第二阈值;客户端之前发送的服务请求的处理时长大于第三阈值。由此可见,第一代理若确定满足以上所有预置条件中的至少一项,则可确定自身不适合完成针对服务请求的流量治理,第一代理若确定不满足以上所有预置条件,则可确定自身适合完成针对服务请求的流量治理。

9、在一种可能实现的方式中,第一代理,用于从代理管理中心提供的n个代理中,将可用资源最大的代理确定为第二代理,可用资源包含以下至少一项:可用计算资源、可用存储资源以及可用通信资源。前述实现方式中,代理管理中心接收到第一代理发送的第一查询请求后,可向第一代理提供n个辅助代理的地址以及n个辅助代理的可用资源的大小,故第一代理可将可用资源最大的代理确定为第二代理,并与基于第二代理的地址与第二代理构建通信连接。

10、在一种可能实现的方式中,第一代理,还用于将自身完成流量治理所需要的配置信息,发送至第二代理;第二代理,用于基于配置信息对服务请求进行流量治理,得到第一治理结果,并基于第一治理结果向第三代理发送服务请求。前述实现方式中,第一代理与第二代理在通信连接的过程中,第一代理可将自身完成解码、流量治理以及编码所需要的配置信息,下发给第二代理,以使得第二代理存储这些配置信息。那么,第二代理接收第一代理发送的服务请求后,可基于这些配置信息来对服务请求进行流量治理,从而得到第一治理结果。

11、在一种可能实现的方式中,第一代理,还用于若确定自身适合完成针对服务请求的流量治理,则对服务请求进行流量治理,得到第一治理结果。第一代理,还用于基于第一治理结果向第三代理发送服务请求。前述实现方式中,若确定自身适合完成针对服务请求的流量治理,第一代理则对服务请求进行流量治理,得到第一治理结果,并基于第一治理结果向第三代理发送服务请求。

12、在一种可能实现的方式中,第三代理,还用于若确定自身不适合完成针对服务请求的流量治理,在代理管理中心提供的m个代理中确定第四代理,并将向第四代理发送服务请求,第四代理位于第四网格节点,m≥1;第四代理,用于对服务请求进行流量治理,得到第二治理结果,并基于第二治理结果向服务端发送服务请求。前述实现方式中,若确定自身不适合完成针对服务请求的流量治理,第三代理则向代理管理中心发送第二查询请求,代理管理中心可基于第二查询请求向第三代理提供m个辅助代理(这m个辅助代理已在代理管理中心处完成注册)。那么,第三代理可在这m个辅助代理中,选择一个辅助代理作为第四代理,并将服务请求发送至第四网格节点中的第四代理,m为大于或等于1的正整数。接收到服务请求后,第四代理可对服务请求进行流量治理,得到第二治理结果。然后,第四代理可基于第二治理结果,向服务端发送服务请求,以使得服务端对服务请求进行处理。

13、在一种可能实现的方本文档来自技高网...

【技术保护点】

1.一种服务网格系统,其特征在于,所述系统包括:

2.根据权利要求1所述的系统,其特征在于,所述第一代理,用于若确定满足预置条件,则确定自身不适合完成针对所述服务请求的流量治理,所述预置条件包含以下至少一项:所述服务请求的接收时刻与当前时刻之间的差值大于第一阈值,所述第一节点的CPU使用率大于第二阈值,以及所述客户端发送的先前服务请求的处理时长大于第三阈值。

3.根据权利要求1或2所述的系统,其特征在于,所述第一代理,用于从代理管理中心提供的N个代理中,将可用资源最大的代理确定为第二代理,所述可用资源包含以下至少一项:可用计算资源、可用存储资源以及可用通信资源。

4.根据权利要求1至3任意一项所述的系统,其特征在于,所述第一代理,还用于将自身完成流量治理所需要的配置信息,发送至所述第二代理;

5.根据权利要求1至4任意一项所述的系统,其特征在于,所述第一代理,还用于若确定自身适合完成针对所述服务请求的流量治理,则对所述服务请求进行流量治理,得到第一治理结果;

6.根据权利要求1至5任意一项所述的系统,其特征在于,所述第三代理,还用于若确定自身不适合完成针对所述服务请求的流量治理,在所述代理管理中心提供的M个代理中确定第四代理,并将向所述第四代理发送所述服务请求,所述第四代理位于第四网格节点,M≥1;

7.根据权利要求1所述的系统,其特征在于,所述服务端,用于对所述服务请求进行处理,得到服务响应,并向所述第三代理发送所述服务响应;

8.一种基于服务网格系统的信息传输方法,其特征在于,所述系统包含第一网格节点,第二网格节点,第三网格节点以及代理管理中心,所述第一网格节点包含第一代理以及客户端,所述第二网格节点包含第二代理,所述第三网格节点包含第三代理以及服务端,所述方法包括:

9.根据权利要求8所述的方法,其特征在于,所述第一代理若确定自身不适合完成针对所述服务请求的流量治理包括:

10.根据权利要求8或9所述的方法,其特征在于,所述第一代理从代理管理中心提供的N个代理中确定第二代理包括:

11.根据权利要求8至10任意一项所述的方法,其特征在于,所述方法还包括:

12.根据权利要求8至11任意一项所述的方法,其特征在于,所述方法还包括:

13.根据权利要求8至12任意一项所述的方法,其特征在于,所述系统还包括第四网格节点,所述第四网格节点包含第四代理,所述方法还包括:

14.根据权利要求8所述的方法,其特征在于,所述方法还包括:

15.一种网格节点,其特征在于,所述网格节点包括存储器和处理器;所述存储器存储有代码,所述处理器被配置为执行所述代码,当所述代码被执行时,所述网格节点执行如权利要求8至14任意一项所述的方法中所述第一网格节点、所述第二网格节点、所述第三网格节点或所述第四网格节点实现的步骤。

16.一种代理管理中心,其特征在于,所述代理管理中心包括存储器和处理器;所述存储器存储有代码,所述处理器被配置为执行所述代码,当所述代码被执行时,所述代理管理中心执行如权利要求8至14任意一项所述的方法中所述代理管理中心实现的步骤。

17.一种计算机存储介质,其特征在于,所述计算机存储介质存储有一个或多个指令,所述指令在由一个或多个计算机执行时使得所述一个或多个计算机实施权利要求8至14任一所述的方法。

18.一种计算机程序产品,其特征在于,所述计算机程序产品存储有指令,所述指令在由计算机执行时,使得所述计算机实施权利要求8至14任意一项所述的方法。

...

【技术特征摘要】

1.一种服务网格系统,其特征在于,所述系统包括:

2.根据权利要求1所述的系统,其特征在于,所述第一代理,用于若确定满足预置条件,则确定自身不适合完成针对所述服务请求的流量治理,所述预置条件包含以下至少一项:所述服务请求的接收时刻与当前时刻之间的差值大于第一阈值,所述第一节点的cpu使用率大于第二阈值,以及所述客户端发送的先前服务请求的处理时长大于第三阈值。

3.根据权利要求1或2所述的系统,其特征在于,所述第一代理,用于从代理管理中心提供的n个代理中,将可用资源最大的代理确定为第二代理,所述可用资源包含以下至少一项:可用计算资源、可用存储资源以及可用通信资源。

4.根据权利要求1至3任意一项所述的系统,其特征在于,所述第一代理,还用于将自身完成流量治理所需要的配置信息,发送至所述第二代理;

5.根据权利要求1至4任意一项所述的系统,其特征在于,所述第一代理,还用于若确定自身适合完成针对所述服务请求的流量治理,则对所述服务请求进行流量治理,得到第一治理结果;

6.根据权利要求1至5任意一项所述的系统,其特征在于,所述第三代理,还用于若确定自身不适合完成针对所述服务请求的流量治理,在所述代理管理中心提供的m个代理中确定第四代理,并将向所述第四代理发送所述服务请求,所述第四代理位于第四网格节点,m≥1;

7.根据权利要求1所述的系统,其特征在于,所述服务端,用于对所述服务请求进行处理,得到服务响应,并向所述第三代理发送所述服务响应;

8.一种基于服务网格系统的信息传输方法,其特征在于,所述系统包含第一网格节点,第二网格节点,第三网格节点以及代理管理中心,所述第一网格节点包含第一代理以及客户端,所述第二网格节点包含第二代理,所述第三网格节点包含第三...

【专利技术属性】
技术研发人员:张伟张永明黄毽
申请(专利权)人:华为云计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1