一种服务网格中事件处理的方法技术

技术编号:20081565 阅读:21 留言:0更新日期:2019-01-15 02:47
本发明专利技术公开了一种服务网格中事件处理的方法,含步骤:A.服务网格应用动态路由规则来确定请求端想要的服务,B.服务网格从服务发现端点检索实例池,找到正确的目的地地址,C.服务网格根据各种因素选择最有可能返回快速响应的实例,D.服务网格尝试将请求发送到实例,并记录结果的延迟和响应类型,E.如果实例故障,服务网格会在另一个实例上重试该请求,F.如果实例始终返回错误,服务网格会将其从负载均衡池中剔除,G.如果请求的过期时间已到,服务网格会主动使请求失败,H.服务网格以度量和分布式跟踪的形式捕获上述行为数据,并将数据发送到度量系统。本发明专利技术的方法为服务网格技术解决了事件处理的难题,有利于服务网格技术的快速落地实现。

A Method of Event Processing in Service Grid

The invention discloses an event processing method in service grid, which includes steps: A. Service grid applies dynamic routing rules to determine the desired service of requester, B. Service grid retrieves instance pool from service discovery endpoint, finds the correct destination address, C. Service grid chooses the most likely instance to return fast response according to various factors, D. Service grid tries to send requests. Delay and response types are recorded. E. If an instance fails, the service grid retries the request on another instance. F. If the instance always returns an error, the service grid will remove it from the load balancing pool. G. If the expiration time of the request has arrived, the service grid will actively fail the request. H. service grid will measure and distribute the tracking form. Capture the above behavior data and send it to the measurement system. The method of the present invention solves the problem of event handling for service grid technology, and is beneficial to the rapid implementation of service grid technology.

【技术实现步骤摘要】
一种服务网格中事件处理的方法
本专利技术涉及计算机软件的分布式系统
,特别涉及一种服务网格中事件处理的方法。
技术介绍
随着移动互联网的不断深入,越来越多的公司和企业逐渐开始面向互联网,并且把面向客户的服务和业务也迁移到线上。在开发这些线上业务时,随着客户数量的不断增多,业务平台的架构也在不断地变化演进。从早期的单体应用架构逐渐转变为微服务架构,集群和分布式也成为了标配的技术。服务网格技术是目前最具生产力的前沿技术之一,在构建微服务架构的基础平台的过程中,采用服务网格技术可以进一步提升系统的整体性能,降低研发和运营成本。服务网格是一个用于处理服务到服务相互通信的专用基础设施层,它负责通过包含现代云原生应用的复杂服务拓扑来安全可靠地传递请求。服务网格是一种网络模型,是位于TCP/IP之上的抽象层。它假定底层L3/L4网络存在并且能够从一个点到另一个点传输字节。服务网格还假设该网络与环境的其他方面一样不可靠,因此服务网络也必须能够处理网络故障。服务网格的事件处理是服务网格的基本功能之一,也是非常难的功能设计。各企业在构建服务网格时都会面临这个技术挑战。
技术实现思路
本专利技术的目的是克服上述
技术介绍
中不足,提供一种服务网格中事件处理的方法,该方法适用于采用了集群和/或分布式设计的系统,可为目前最具生产力的服务网格技术解决事件处理的难题,有利于服务网格技术的快速落地实现,并能通过服务网格技术大幅度降低企业的运营和服务成本,加固业务的软基础设施,进一步提升了系统效率,提升了系统整体的可靠性和稳定性。为了达到上述的技术效果,本专利技术采取以下技术方案:一种服务网格中事件处理的方法,包括以下步骤:A.服务网格应用动态路由规则来确定请求端需要的服务请求;其中,所述路由规则是指路由表的路由记录与后端微服务之间所建立起的一种映射关系,动态路由规则则是服务网格能够根据路由器之间交换的特定路由信息自动地建立自己的服务路由表,并且能够根据链路和节点变化的实际情况适时地进行服务路由表的自动调整;路由确定则包括确定是应该路由到生产环境的微服务端点还是路由到软件生命周期阶段环境的微服务端点;或是应该路由到本地数据中心的微服务端点还是路由到云服务提供商的云主机中的微服务端点,且路由规则都是动态可配置的,可以全局应用,也可以应用于任意的流量切片;B.服务网格从服务发现端点检索实例池,找到正确的微服务端点地址;具体的,服务发现端点是一种微服务端点,具体提供了服务注册与服务发现的功能,并开放了相应的服务端口,实例池则是由所有可用的微服务实例所组成的一种池状集合,实例池的功能机制类似于数据库连接池,服务器发现端点则提供了可供检索的实例池,可用于查找适合的微服务端点;C.服务网格根据影响因素选择并确定最能返回快速响应的微服务端点实例,包括观察到的最近请求的延迟;D.服务网格尝试将服务请求发送到所述微服务端点实例,并记录结果的延迟和响应类型;E.若所述微服务端点实例出现故障,则服务网格在另一个微服务端点实例上重试该服务请求;F.若微服务端点实例多次出现故障,服务网格则将其从负载均衡池中剔除;即如果所选择的微服务端点实例在给定的一段时间范围内始终返回错误,如在1分钟内收到该微服务端点实例返回错误的提示超过2次,那么服务网格会认为它是服务宕机而不是瞬态故障,这种情况下,服务网格会将这个端点实例从负载均衡池中剔除;G.若到达服务请求的过期时间,服务网格则主动使服务请求失败;来自请求端的每一个请求,都包含了请求的过期时间,如果请求的过期时间已到,且没有获得服务端点实例的响应数据,那么服务网格会主动使这个请求失败;H.服务网格以度量和分布式跟踪的形式捕获上述每个步骤中的行为数据,并将数据发送到度量系统;服务网格在以上每一个步骤中均以度量和分布式跟踪的形式捕获上述行为数据,并将数据发送到度量系统,其中,度量系统可以是Prometheus、Sysdig、Graphite、StatsD、Sensu等监控度量系统。进一步地,所述步骤B中的实例池为单个实例池或多个实例池组成的实例池集合。进一步地,所述步骤C中的所述影响因素包括历史记录、请求时间和响应时间的度量数据、微服务端点的负荷情况,但不限与上述因素,实际中还可综合考量其他可能影响微服务端点实例响应速度的因素。进一步地,所述步骤C中所述最能返回快速响应的微服务端点实例可以是一个微服务端点实例,也可以是多个微服务端点实例。进一步地,所述微服务端点实例出现的故障包括瞬态故障、服务宕机、网络故障,实际中微服务端点实例可能出现的故障不限于上述故障。进一步地,所述步骤E中服务网格在另一个微服务端点实例上重试该服务请求式,该重试的请求仅限于使用了幂等的HTTP请求方法,非幂等的HTTP方法不能发起重试请求。进一步地,所述步骤F中还包括服务网格将从负载均衡池中剔除的微服务端点实例放入待恢复池中,以便后续进行定期重试,重试时一旦端点实例恢复正常,那么可以再次将它从待恢复池中剔除,重新加入到负载均衡池中。本专利技术与现有技术相比,具有以下的有益效果:本专利技术的服务网格中事件处理的方法可解决
技术介绍
中提出问题,即为目前最具生产力的服务网格技术解决了事件处理的难题,有利于服务网格技术的快速落地实现,并能通过服务网格技术大幅度降低企业的运营和服务成本,加固业务的软基础设施,进一步提升了系统效率,提升了系统整体的可靠性和稳定性。附图说明图1是本专利技术的服务网格中事件处理的方法的流程示意图。具体实施方式下面结合本专利技术的实施例对本专利技术作进一步的阐述和说明。实施例:如图1所示,一种服务网格中事件处理的方法,该方法可以应用于微服务架构中,可以应用于分布式计算平台、云计算平台等数据中心,该方法主要包括以下步骤:步骤101,服务网格应用动态路由规则来确定请求端想要的服务。具体的,路由规则是指路由表的路由记录与后端微服务之间所建立起的一种映射关系。动态路由规则具体为服务网格能够根据路由器之间交换的特定路由信息自动地建立自己的服务路由表,并且能够根据链路和节点变化的实际情况适时地进行服务路由表的自动调整。其中,路由确定包括是确定应该路由到生产环境的微服务端点还是路由到软件生命周期阶段环境的微服务端点;或是应该路由到本地数据中心的微服务端点还是路由到云服务提供商的云主机中的微服务端点。作为优选,本实施例中路由规则都是动态可配置的,且可以全局应用,也可以应用于任意的流量切片。步骤102,服务网格从服务发现端点检索实例池,找到正确的目的地地址。具体的,服务发现端点是一种微服务端点,它提供了服务注册与服务发现的功能,并开放了相应的服务端口。其中,实例池是由所有可用的微服务实例所组成的一种池状集合,实例池的功能机制类似于数据库连接池。服务器发现端点则提供了可供检索的实例池,可用于查找适合的微服务端点。实际中,实例池可以是单个实例池,还可以是多个实例池组成的实例池集合。步骤103,服务网格根据各种影响因素选择最有可能返回快速响应的实例。服务网格根据各种影响因素选择最有可能返回快速响应的实例,包括观察到的最近请求的延迟。具体的,各种影响因素包括历史记录、请求时间和响应时间的度量数据、微服务端点的负荷情况等信息。实际中,快速响应的实例可以是一个微服务端点实例,也可以是多本文档来自技高网
...

【技术保护点】
1.一种服务网格中事件处理的方法,其特征在于,包括以下步骤:A.服务网格应用动态路由规则来确定请求端需要的服务请求;B.服务网格从服务发现端点检索实例池,找到正确的微服务端点地址;C.服务网格根据影响因素选择并确定最能返回快速响应的微服务端点实例;D.服务网格尝试将服务请求发送到所述微服务端点实例,并记录结果的延迟和响应类型;E.若所述微服务端点实例出现故障,则服务网格在另一个微服务端点实例上重试该服务请求;F.若微服务端点实例在给定的一段时间范围内多次出现故障,服务网格则将其从负载均衡池中剔除;G.若到达服务请求的过期时间,服务网格则主动使服务请求失败;H.服务网格以度量和分布式跟踪的形式捕获上述每个步骤中的行为数据,并将数据发送到度量系统。

【技术特征摘要】
1.一种服务网格中事件处理的方法,其特征在于,包括以下步骤:A.服务网格应用动态路由规则来确定请求端需要的服务请求;B.服务网格从服务发现端点检索实例池,找到正确的微服务端点地址;C.服务网格根据影响因素选择并确定最能返回快速响应的微服务端点实例;D.服务网格尝试将服务请求发送到所述微服务端点实例,并记录结果的延迟和响应类型;E.若所述微服务端点实例出现故障,则服务网格在另一个微服务端点实例上重试该服务请求;F.若微服务端点实例在给定的一段时间范围内多次出现故障,服务网格则将其从负载均衡池中剔除;G.若到达服务请求的过期时间,服务网格则主动使服务请求失败;H.服务网格以度量和分布式跟踪的形式捕获上述每个步骤中的行为数据,并将数据发送到度量系统。2.根据权利要求1所述的一种服务网格中事件处理的方法,其特征在于,所述步骤B中的实例池为单个实例池或多个实例池组成的实例池集...

【专利技术属性】
技术研发人员:李强王凤琴
申请(专利权)人:四川长虹电器股份有限公司
类型:发明
国别省市:四川,51

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1