任务流量处理方法、装置及电子设备制造方法及图纸

本申请涉及一种任务流量处理方法、装置、电子设备及计算机可读介质。该方法包括：实时获取任务流量和其对应的响应错误率；获取所述任务流量对应的限流阈值和多阶段限流配置；根据所述响应错误率与限流阈值的大小关系，基于所述任务流量的当前阶段、多阶段限流配置生成流量策略；根据所述流量策略将所述任务流量发送至下游服务以进行处理。本申请涉及的任务流量处理方法、装置、电子设备及计算机可读介质，能够动态调整发送给下游服务处理的任务流量，从而使得上游服务限流和放量的过程中，不会对下游服务造成冲击，保证系统安全运行。保证系统安全运行。保证系统安全运行。

【技术实现步骤摘要】
任务流量处理方法、装置及电子设备


[0001]本申请涉及计算机信息处理领域，具体而言，涉及一种任务流量处理方法、装置、电子设备及计算机可读介质。

技术介绍

[0002]断路器(circuit breaker)，也称为熔断器，是软件系统中的对下游系统延迟或错误的容错装置(Latency and Fault Tolerance System)，当下游的服务或功能出现延迟增高或执行错误的情况时，断路器开启，不再请求下游的功能或服务，保护自身服务不被下游服务或功能拖垮。
[0003]如图1所示，现有断路器方案一般都包含三种状态：开启、关闭、半开。正常情况下断路器关闭，可以正常访问下游，当下游延迟增高或出现错误时，断路器开启，不再请求下游服务或功能；开启后一段时间，断路器进入半开状态，断路器放一定量的请求到下游服务或功能，进行下游服务或功能最新状况的判断，如果下游恢复正常，则断路器关闭，否则断路器继续开启。
[0004]现有断路器方案在下游发生异常后，下游流量就直接被断开，而在半开状态时，只要判断下游服务恢复，又直接将全部流量放到下游服务本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种任务流量处理方法，其特征在于，包括：实时获取任务流量和其对应的响应错误率；获取所述任务流量对应的限流阈值和多阶段限流配置；根据所述响应错误率与限流阈值的大小关系，基于所述任务流量的当前阶段、多阶段限流配置生成流量策略；根据所述流量策略将所述任务流量发送至下游服务以进行处理。2.如权利要求1所述的方法，其特征在于，实时获取任务流量和其对应的响应错误率，包括：通过滑动窗口计数器实时获取任务流量和其对应的下游服务超时响应；和/或通过滑动窗口计数器实时获取任务流量和其对应的错误代码响应；和/或通过滑动窗口计数器实时获取任务流量和其对应的目标函数的返回响应；通过下游服务超时响应和/或错误代码响应和/或返回响应生成响应错误率。3.如权利要求1所述的方法，其特征在于，获取所述任务流量对应的限流阈值和多阶段限流配置，包括：获取所述任务流量对应的下游服务的标识；基于所述下游服务的标识提取所述限流阈值和多阶段限流配置。4.如权利要求1所述的方法，其特征在于，根据所述响应错误率与限流阈值的大小关系，基于所述任务流量的当前阶段、多阶段限流配置生成流量策略，包括：在所述响应率大于流量阈值时，生成逐步限流策略；基于所述逐步限流策略由所述任务流量对应的索引位置提取所述任务流量的当前阶段；将所述当前阶段和多阶段限流配置进行匹配，提取下一阶段的流量占比；根据下一阶段的流量占比生成所述逐步限流策略。5.如权利要求1所述的方法，其特征在于，根据所述响应错误率与限流阈值的大小关系，基于所述任务流量的当前阶段、多阶段限流...

【专利技术属性】
技术研发人员：李景晨，徐锐波，
申请(专利权)人：北京云思智学科技有限公司，
类型：发明
国别省市：