支持分布式计算环境下的高性能微服务通信方法及系统技术方案

本发明专利技术提供了一种支持分布式计算环境下的高性能微服务通信方法及系统，通常以微服务的形式进行应用开发和部署，因此人工智能算法、业务逻辑、数据处理等功能通常会以多个微服务协同的方式进行部署。协同需要进行大量的服务间通信，通过调用微服务接口进行。从性能角度评估，对于数据密集和通信密集场景，采用通用的数据传输方式容易造成性能损失。本项发明专利技术提出了一种自适应通信模式适配方式，为微服务间协同提供了性能提示的方式，特别时面向基于人工智能算法和数据分析的应用微服务，需要同时兼顾少量数据和大容量数据块传输效率的情况，采用自适应方式可有效的进行不同传输模式的切换，以适应不同的通信场景，达到效率的平衡。平衡。平衡。

【技术实现步骤摘要】
支持分布式计算环境下的高性能微服务通信方法及系统


[0001]本专利技术涉及信息技术的
，具体地，涉及支持分布式计算环境下的高性能微服务通信方法。

技术介绍

[0002]智慧城市和数字孪生应用的快速发展，推进了人工智能计算和分布式并行技术的应用落地。在软件工程角度，为实现智能业务的部署和运维以适配复杂的云
‑
边协同计算环境，通常以微服务的形式进行应用开发和部署，因此人工智能算法、业务逻辑、数据处理等功能通常会以多个微服务协同的方式进行部署，以故障解耦被便于维护。可参考的方式包括流水线方式或图方式。
[0003]微服务协同需要进行大量的服务间通信，以微服务本身的实现方式，服务间通信通过调用微服务接口进行。从软件工程角度，该方式提供了清晰的关联关系，整体管理非常方便。但从性能角度评估，则对于数据密集和通信密集场景，采用通用的数据传输方式容易造成性能损失。
[0004]因此，需要提出一种新的技术方案以改善上述技术问题。

技术实现思路

[0005]针对现有技术中的缺陷，本专利技术的目的是提供一种支持分布式计算环境下的高性能微服务通信方法及系统。
[0006]根据本专利技术提供的一种支持分布式计算环境下的高性能微服务通信方法，所述方法包括如下步骤：
[0007]步骤S1：构建自适应通信的总体架构方式，微服务的自适应通信通过在每个微服务上安装客户端，通过客户端进行通信模式的选择与切换，同时客户端对通信进行采样，协助自适应服务代理对通信模式进行评估；
[0008]步骤S2：进行自适应服务客户端的工作机制，客户端的部署方式为替换微服务中的用于微服务间协同的数据通信模块，由此拦截数据通信方式，并进行策略调整，以利用通过自适应服务代理反馈的通信资源；
[0009]步骤S3：进行自适应服务代理的工作机制；自适应服务代理以独立的微服务方式运行，通过多副本方式运行；
[0010]步骤S4：完成通信通道选择的评估模型算法设计，自适应通信代理在评估通信采样后，为每个微服务的通信通道确定通信策略，通信策略的选择以通映射表的方式进行。
[0011]优选地，所述步骤S1包括如下步骤：
[0012]步骤S1.1：自适应通信客户端向自适应服务代理发出通信方式请求；
[0013]步骤S1.2：自适应服务代理跟据分析采样信息得到的推荐通信方式和通信资源，反馈给客户端；
[0014]步骤S1.3：自适应通信客户端向自适应范围代理发送采样数据包；
[0015]步骤S1.4：自适应服务代理更新采样数据表，并按照定时方式分析数据，生成新的通信方式推荐；
[0016]步骤S1.5：通信完成向自适应服务代理释放通信资源。
[0017]优选地，所述步骤S2中：
[0018]微服务通过以下基于HTTP实现的API发送字符串：
[0019]Send(Data，Size)；//Data为字符串
[0020]在自适应通信客户端的底层，该API的实现可能被替换为RPC API或RDMA API来应用具体的数据传输通道。
[0021]客户端负责两方面工作：
[0022]通信过程采样，采集内容包括：通信方式、通信频率、数据容量、是否节点内通信，采样时间；
[0023]向自适应通信代理发送通信方式选择的请求，并从通信代理获得反馈。
[0024]优选地，所述步骤S3中：
[0025]服务代理包括采样数据表、数据分析组件、通信方式反馈组件，通信通道管理组件；
[0026]自适应服务代理内建了一个数据表，为每个进行协同的微服务，以及每个微服务的通信通道建立了一个采样分析数据段；每个数据段维护k条如下记录：
[0027]通信方式：RPC、HTTP、对象存储，通过编号表示；
[0028]数据容量：以通信的比特数表示；
[0029]是否节点内通信：根据通信目标位置确定；
[0030]采样时间：通信发起时间；
[0031]采样数据分析组件，根据上述信息确定在k条记录所界定的时间范围内，通信的类型和频率；数据段的更新方式为先进先出，因此数据段总维持最新的采样信息；数据分析组件以定期分析方式进行；
[0032]自适应服务代理同时管理一系列通信通道，包括HTTP、HTTPS、RPC、RDMA、对象存储，每中类型的通信通道均有若干资源可供分配给自适应通信客户端使用，资源分配方式为先到先得，如果客户端未能及时释放资源，则自适应服务代理需要将资源强行杀死。
[0033]优选地，所述步骤S4中：
[0034]采样数据分析系统需要确定通信场景、通信频次和数据容量，计算方式如下：
[0035]通信场景：通信分为节点内和节点间两种场景，根据采样信息，以采样信息表中占比超过2/3场景作为通信场景，如果没有比例大于2/3的通信场景，则以节点内作为缺省场景；
[0036]通信频次：根据采样数据段所界定的时间范围和通信数量计算通信频次；
[0037]通信容量：通过采样数据段内的记录确定每种通信方式的数据平均容量，包括发送和接收；
[0038]根据通信频次，以用户设定的阈值Ft为基础，超过Ft为高频次；数据容量同样以用户设定的阈值Vt为基础，超过Vt的为大容量。
[0039]根据上述计算得到的通信场景、通信频次、通信容量信息，代入到映射表中获得推荐的通信方式；在通信方式的基础上，通过通信资源管理模块进一步获取对应的通信资源，
如果资源无法分配，则返回推荐失败，有自适应通信客户端与对端协商切换回标准的微服务通信模式，通信不被阻塞。
[0040]本专利技术还提供一种支持分布式计算环境下的高性能微服务通信系统，所述系统包括如下模块：
[0041]模块M1：构建自适应通信的总体架构方式，微服务的自适应通信通过在每个微服务上安装客户端，通过客户端进行通信模式的选择与切换，同时客户端对通信进行采样，协助自适应服务代理对通信模式进行评估；
[0042]模块M2：进行自适应服务客户端的工作机制，客户端的部署方式为替换微服务中的用于微服务间协同的数据通信模块，由此拦截数据通信方式，并进行策略调整，以利用通过自适应服务代理反馈的通信资源；
[0043]模块M3：进行自适应服务代理的工作机制；自适应服务代理以独立的微服务方式运行，通过多副本方式运行；
[0044]模块M4：完成通信通道选择的评估模型算法设计，自适应通信代理在评估通信采样后，为每个微服务的通信通道确定通信策略，通信策略的选择以通映射表的方式进行。
[0045]优选地，所述模块M1包括如下模块：
[0046]模块M1.1：自适应通信客户端向自适应服务代理发出通信方式请求；
[0047]模块M1.2：自适应服务代理跟据分析采样信息得到的推荐通信方式和通信资源，反馈给客户端；
[0048]模块M1.3：自适应通信客户端向自适应范围代理发送采样本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种支持分布式计算环境下的高性能微服务通信方法，其特征在于，所述方法包括如下步骤：步骤S1：构建自适应通信的总体架构方式，微服务的自适应通信通过在每个微服务上安装客户端，通过客户端进行通信模式的选择与切换，同时客户端对通信进行采样，协助自适应服务代理对通信模式进行评估；步骤S2：进行自适应服务客户端的工作机制，客户端的部署方式为替换微服务中的用于微服务间协同的数据通信模块，由此拦截数据通信方式，并进行策略调整，以利用通过自适应服务代理反馈的通信资源；步骤S3：进行自适应服务代理的工作机制；自适应服务代理以独立的微服务方式运行，通过多副本方式运行；步骤S4：完成通信通道选择的评估模型算法设计，自适应通信代理在评估通信采样后，为每个微服务的通信通道确定通信策略，通信策略的选择以通映射表的方式进行。2.根据权利要求1所述的支持分布式计算环境下的高性能微服务通信方法，其特征在于，所述步骤S1包括如下步骤：步骤S1.1：自适应通信客户端向自适应服务代理发出通信方式请求；步骤S1.2：自适应服务代理跟据分析采样信息得到的推荐通信方式和通信资源，反馈给客户端；步骤S1.3：自适应通信客户端向自适应范围代理发送采样数据包；步骤S1.4：自适应服务代理更新采样数据表，并按照定时方式分析数据，生成新的通信方式推荐；步骤S1.5：通信完成向自适应服务代理释放通信资源。3.根据权利要求1所述的支持分布式计算环境下的高性能微服务通信方法，其特征在于，所述步骤S2中：微服务通过以下基于HTTP实现的API发送字符串：Send(Data，Size)；//Data为字符串在自适应通信客户端的底层，该API的实现可能被替换为RPC API或RDMA API来应用具体的数据传输通道。客户端负责两方面工作：通信过程采样，采集内容包括：通信方式、通信频率、数据容量、是否节点内通信，采样时间；向自适应通信代理发送通信方式选择的请求，并从通信代理获得反馈。4.根据权利要求1所述的支持分布式计算环境下的高性能微服务通信方法，其特征在于，所述步骤S3中：服务代理包括采样数据表、数据分析组件、通信方式反馈组件，通信通道管理组件；自适应服务代理内建了一个数据表，为每个进行协同的微服务，以及每个微服务的通信通道建立了一个采样分析数据段；每个数据段维护k条如下记录：通信方式：RPC、HTTP、对象存储，通过编号表示；数据容量：以通信的比特数表示；是否节点内通信：根据通信目标位置确定；
采样时间：通信发起时间；采样数据分析组件，根据上述信息确定在k条记录所界定的时间范围内，通信的类型和频率；数据段的更新方式为先进先出，因此数据段总维持最新的采样信息；数据分析组件以定期分析方式进行；自适应服务代理同时管理一系列通信通道，包括HTTP、HTTPS、RPC、RDMA、对象存储，每中类型的通信通道均有若干资源可供分配给自适应通信客户端使用，资源分配方式为先到先得，如果客户端未能及时释放资源，则自适应服务代理需要将资源强行杀死。5.根据权利要求1所述的支持分布式计算环境下的高性能微服务通信方法，其特征在于，所述步骤S4中：采样数据分析系统需要确定通信场景、通信频次和数据容量，计算方式如下：通信场景：通信分为节点内和节点间两种场景，根据采样信息，以采样信息表中占比超过2/3场景作为通信场景，如果没有比例大于2/3的通信场景，则以节点内作为缺省场景；通信频次：根据采样数据段所界定的时间范围和通信数量计算通信频次；通信容量：通过采样数据段内的记录确定每种通信方式的数据平均容量，包括发送和接收；根据通信频次，以用户设定的阈值Ft为基础，超过Ft为高频次；数据容量同样以用户设定的阈值Vt为基础，超过Vt的为大容量。根据上述计算得到的通信场景、通信频次、通信容量信息，代入到映射表中获得推荐的通信方式；在通信方式的基础上，通过通信资源管理模块进一步获取对应的通信资源，如果资源无法分配，则返回推荐失败，有自适应通信客户端与对端协商切换回标准的微服务通信模式，通信不被阻塞。6.一种支持分...

【专利技术属性】
技术研发人员：赵继胜，
申请(专利权)人：上海孚典智能科技有限公司，
类型：发明
国别省市：