分流方法、数据服务系统及其前端、存储介质技术方案

本发明专利技术实施例涉及计算机技术领域，公开了一种分流方法、数据服务系统及其前端、存储介质。该方法应用于数据服务系统的前端，其包括：在处理接收的请求之前，获取数据服务系统主服务后台的实时响应数据；根据实时响应数据确定是否需要分流，若需要分流，则将当前请求分流至数据服务系统的灾备后台，若不需要分流，则将当前请求发送至主服务后台处理。本发明专利技术实施方式通过前端探测系统后台的实时响应能力，并在压力过大时对请求进行分流，从而可以大幅缓解后台压力，保障系统稳定运行。

Shunting method, data service system and its front end and storage medium

【技术实现步骤摘要】
分流方法、数据服务系统及其前端、存储介质
本专利技术涉及计算机
，特别涉及一种分流方法、数据服务系统及其前端、存储介质。
技术介绍
系统上线运营期间，可能会遇到用户量激增、访问量暴涨超过系统负荷的情况，也可能发生地震造成机房断电等极端情况，导致系统完全无法使用。为防止由于上述原因导致系统无法正常使用，一般会提升系统性能以应对用户量激增、访问量暴涨等的情况，或者配置容灾环境以应对系统瘫痪等的恶劣情况，保证系统的正常运行。比如，对于需要承接世界杯等的直播、转播的系统，就需要对系统进行扩展以提升性能。现有措施一般包括：对后台数据库、缓存、应用等的扩容；对系统后台业务逻辑处理的优化；对系统后台接口访问量的限制和放通；异地容灾环境配置及系统双活实现。专利技术人发现相关技术至少存在以下问题：现有系统性能的提升着重于后台自身的优化，而一旦后台由于压力过大或者突发情况导致系统瘫痪，则会极大影响用户使用。同时由于压力过大，也会影响系统的稳定性。
技术实现思路
本专利技术实施方式的目的在于提供一种分流方法、数据服务系统及其前端、存储介质，通过前端探测系统后台的实时响应能力，并在压力过大时对请求进行分流，从而可以大幅缓解后台压力，保障系统稳定运行。为解决上述技术问题，本专利技术的实施方式提供了一种分流方法，应用于数据服务系统的前端，所述分流方法包括：在处理接收的请求之前，获取所述数据服务系统主服务后台的实时响应数据；根据所述实时响应数据确定是否需要分流，若需要分流，则将当前请求分流至所述数据服务系统的灾备后台，若不需要分流，则将当前请求发送至所述主服务后台处理。本专利技术的实施方式还提供了一种数据服务系统的前端，包括：存储器和处理器，存储器存储计算机程序，处理器运行所述计算机程序以实现如前所述的分流方法。本专利技术的实施方式还提供了一种存储介质，用于存储计算机可读程序，所述计算机可读程序用于供计算机执行如前所述的分流方法。本专利技术实施方式相对于现有技术而言，在处理接收的请求之前，通过前端获取数据服务系统主服务后台的实时响应数据，并根据获取的实时响应数据确定是否需要分流，即根据后台的实时响应数据确定后台的压力是否过大，并在后台的压力过大时，将当前请求分流至灾备后台，从而可以有效缓解后台的处理压力，进而既可保障后台的稳定运行，又能更好的响应用户请求，提高用户体验。作为一个实施例，所述根据所述实时响应数据确定是否需要分流，具体包括：根据所述实时响应数据计算得到系统实时响应率；确定所述系统实时响应率是否小于系统响应率阈值，若小于所述系统响应率阈值，则确定需要分流；若所述系统实时响应率大于或者等于所述系统响应率阈值，则确定不需要分流。作为一个实施例，所述实时响应数据包括以下参考数据：最近的第一预设时长内的各单位时间内请求响应数、各单位时间内并发数、各单位时间内吞吐量以及各单个请求的处理时间；所述根据所述实时响应数据计算得到系统实时响应率，具体包括：计算得到最近的第一预设时长内的单位时间内请求响应数到达单位时间内请求响应数阈值的概率P1；计算得到最近的第一预设时长内的单位时间内并发数到达单位时间内并发数阈值的概率P2；计算得到最近的第一预设时长内的单位时间内吞吐量到达单位时间内吞吐量阈值的概率P3；根据最近的第一预设时长内的各单个请求的处理时间计算得到系统时间响应率P4；将所述P1至所述P4加权求和得到所述系统实时响应率。作为一个实施例，采用泊松分布计算得到所述P1、所述P2和所述P3。作为一个实施例，所述根据最近的第一预设时长内的各单个请求的处理时间计算得到系统时间响应率P4，具体包括：按照预设的多个响应区间确定所述第一预设时长内的每个请求的处理时间所属的响应区间；计算得到所述第一预设时长内的每个响应区间内的单个请求的平均处理时间；计算每个所述响应区间的平均处理时间与所述响应区间的分布率的乘积，得到各所述响应区间对应的乘积；其中，所述响应区间的分布率为该响应区间内的请求次数与所有响应区间内的请求次数之比；将各所述响应区间对应的乘积加权求和得到所述P4。作为一个实施例，所述分流方法还包括：每次计算得到所述系统实时响应率之后将所述系统实时响应率缓存；在所述获取所述数据服务系统主服务后台的实时响应数据之后，且在所述确定所述系统实时响应率是否小于系统响应率阈值之前，还包括：确定是否需要更新缓存的所述系统实时响应率，若需要更新缓存的所述系统实时响应率，则根据获取的实时响应数据重新计算得到系统实时响应率；所述确定所述系统实时响应率是否小于系统响应率阈值，具体包括：确定缓存的所述系统实时响应率是否小于所述系统响应率阈值，若缓存的所述系统实时响应率小于所述系统响应率阈值，则确定需要分流，若缓存的所述系统实时响应率大于或者等于所述系统响应率阈值，则确定不需要分流。作为一个实施例，所述确定是否需要更新缓存的所述系统实时响应率，具体包括：确定所述系统实时响应率的缓存持续时长是否大于第二预设时长，若大于所述第二预设时长，则确定需要更新所述系统实时响应率，若小于或者等于所述第二预设时长，则确定不需要更新所述系统实时响应率。附图说明图1是本专利技术数据服务系统的结构示例图；图2是根据本专利技术第一实施方式分流方法的流程图；图3是图2中步骤202的子流程图；图4是图3中步骤301的子流程图；图5是图4中步骤404的子流程图；图6是根据本专利技术第二实施方式分流方法的流程图；图7是根据本专利技术第三实施方式数据服务系统的前端的结构示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合附图对本专利技术的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本专利技术各实施方式中，为了使读者更好地理解本专利技术而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本专利技术所要求保护的技术方案。本专利技术的第一实施方式涉及一种分流方法，可应用于如图1所示的数据服务系统的前端。数据服务系统包括主服务后台以及灾备后台。其中，后台应用现网集群以及Nginx现网集群属于主服务后台，后台应用集群以及Nginx容灾集群属于灾备后台。Nginx是一个高性能的HTTP(HyperTextTransferProtocol，超文本传输协议)和反向代理服务，本实施方式对于数据服务系统不做具体限制。本实施方式的分流方法包括：在处理接收的请求之前，获取数据服务系统主服务后台的实时响应数据；根据实时响应数据确定是否需要分流，若需要分流，则将当前请求分流至数据服务系统的灾备后台，若不需要分流，则将当前请求发送至主服务后台处理。本专利技术实施方式相对于现有技术而言，在处理接收的请求之前，通过前端获取数据服务系统主服务后台的实时响应数据，并根据获取的实时响应数据确定是否需要分流，即根据后台的实时响应数据确定后台的压力是否过大，并在后台的压力过大时，将当前请求分流至灾备后台，从而可以有效缓解后台的处理压力，进而既可保障后台的稳定运行，又能更好的响应用户请求，提高用户体验。下面结合图2～图5对本实施方式的分流方法进行详细说明。如图2所示，本实施方式的分流方法包括步骤201至步骤204。步骤201：在处理接收的请求之前，获取数据服务系统主服务后台的实时响应数据。其中，实时响应数据包本文档来自技高网...

【技术保护点】
1.一种分流方法，其特征在于，应用于数据服务系统的前端，所述分流方法包括：在处理接收的请求之前，获取所述数据服务系统主服务后台的实时响应数据；根据所述实时响应数据确定是否需要分流，若需要分流，则将当前请求分流至所述数据服务系统的灾备后台，若不需要分流，则将当前请求发送至所述主服务后台处理。

【技术特征摘要】
1.一种分流方法，其特征在于，应用于数据服务系统的前端，所述分流方法包括：在处理接收的请求之前，获取所述数据服务系统主服务后台的实时响应数据；根据所述实时响应数据确定是否需要分流，若需要分流，则将当前请求分流至所述数据服务系统的灾备后台，若不需要分流，则将当前请求发送至所述主服务后台处理。2.根据权利要求1所述的分流方法，其特征在于，所述根据所述实时响应数据确定是否需要分流，具体包括：根据所述实时响应数据计算得到系统实时响应率；确定所述系统实时响应率是否小于系统响应率阈值，若小于所述系统响应率阈值，则确定需要分流；若所述系统实时响应率大于或者等于所述系统响应率阈值，则确定不需要分流。3.根据权利要求2所述的分流方法，其特征在于，所述实时响应数据包括以下参考数据：最近的第一预设时长内的各单位时间内请求响应数、各单位时间内并发数、各单位时间内吞吐量以及各单个请求的处理时间；所述根据所述实时响应数据计算得到系统实时响应率，具体包括：计算得到最近的第一预设时长内的单位时间内请求响应数到达单位时间内请求响应数阈值的概率P1；计算得到最近的第一预设时长内的单位时间内并发数到达单位时间内并发数阈值的概率P2；计算得到最近的第一预设时长内的单位时间内吞吐量到达单位时间内吞吐量阈值的概率P3；根据最近的第一预设时长内的各单个请求的处理时间计算得到系统时间响应率P4；将所述P1至所述P4加权求和得到所述系统实时响应率。4.根据权利要求3所述的分流方法，其特征在于，采用泊松分布计算得到所述P1、所述P2和所述P3。5.根据权利要求3所述的分流方法，其特征在于，所述根据最近的第一预设时长内的各单个请求的处理时间计算得到系统时间响应率P4，具体包括：按照预设的多个响应区间确定所述第一预设时长内的每个请求的处理时间所属的响应区间；计算得到所述第一预设时长内的每个响...

【专利技术属性】
技术研发人员：吴庆双，
申请(专利权)人：咪咕文化科技有限公司，
类型：发明
国别省市：北京,11