一种缓存策略的确定方法及装置制造方法及图纸

技术编号:17268008 阅读:66 留言:0更新日期:2018-02-14 16:40
本发明专利技术实施例提供一种缓存策略的确定方法及装置,涉及通信技术领域,使得API管理集群能够自动生成缓存策略,该方法包括:API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析,并根据统计分析结果确定缓存时间段;以及该API管理集群确定缓存策略,其中,该缓存时间段为第一时间段所在周期之后的周期中与该第一时间段相对应的时间段,在该第一时间段内,该API管理集群接收到的所有携带第一API标识的API请求消息对应的API响应消息的内容均相同。

A method and device for determining the caching strategy

The embodiment of the invention provides a method and a device for determining the caching strategy, relates to the communication technology field, makes the API cluster management can automatically generate the cache strategy, the method includes: API management of a cluster of multiple API receives the request message and a response message API for statistical analysis, and the results of the analysis to determine the cache time according to statistics; and the API management to determine the cluster cache strategy, among them, the buffer time period for the period after the first time the period corresponding to the first period of time, in the first period of time, all carry the first API identification of API request message corresponding to the API response message received by the API management of the cluster are the same.

【技术实现步骤摘要】
一种缓存策略的确定方法及装置
本专利技术涉及通信
,尤其涉及一种缓存策略的确定方法及装置。
技术介绍
随着应用(Application,App)的迅猛发展,越来越多的公司或者网站的服务商向App开发者提供开放应用程序编程接口(ApplicationProgrammingInterface,API),使得App开发者能够基于开放API迅速开发App。App在使用的过程中,通过调用相应的API,向API管理集群发送API请求消息,由API管理集群将该API请求消息经过处理后发送至相应服务器。随着用户需求的飞速增长,API管理集群作为API网关,每天需要处理数十亿的API请求消息,平均每秒上万个API请求消息,这对API管理集群的性能造成极大的考验。目前,API管理集群向API开发者提供缓存功能,API开发者在开发API编排逻辑的过程中,在编排逻辑中增加缓存策略,以指示API管理集群缓存指定时间段内接收到的第一个携带指定API标识的API请求消息对应的API响应的内容,当在该指定时间段内收到携带相同API标识的API请求消息时,直接采用缓存的缓存内容进行响应。从而避免了API管理集群对接收到的所有携带相同API标识的API请求消息进行处理,也无需转发给服务器,从而缩短了API处理时延,同时降低了服务器的负载压力。然而,在上述方法中,缓存策略都是由API开发者编写的。如果缓存策略编写有误,会直接导致APP收到错误的响应而影响业务。
技术实现思路
本专利技术的实施例提供一种缓存策略的确定方法及装置,使得API管理集群能够自动生成缓存策略,提高缓存策略的正确率。为达到上述目的,本专利技术的实施例采用如下技术方案:第一方面,本专利技术实施例提供一种缓存策略的确定方法,该方法包括:API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析,该多个API请求消息与该多个API响应消息一一对应;该API管理集群根据统计分析结果确定缓存时间段,该缓存时间段为第一时间段所在周期之后的周期中与该第一时间段相对应的时间段,在该第一时间段内,该API管理集群接收到的所有携带第一API标识的API请求消息对应的API响应消息的内容均相同,该第一时间段为该第一时间段内该API管理集群接收到的第一个携带该第一API标识的API请求消息的时刻,到该第一时间段内该API管理集群接收到最后一个携带该第一API标识的API请求消息对应的API响应消息的时刻;该API管理集群确定缓存策略,该缓存策略用于指示该API管理集群根据在该缓存时间段内接收到的第一个携带该第一API标识的API请求消息对应的API响应消息的内容,对该缓存时间段内接收到的所有携带该第一API标识的API请求消息进行响应。通过本专利技术实施例提供的缓存策略的确定方法,API管理集群能够对接收到的多个API请求消息和每个API请求消息对应的API响应消息进行统计分析,并在存在第一时间段,该第一时间段内,该API管理集群接收到的所有携带第一API标识的API请求消息对应的API响应消息的内容均相同时,通过确定缓存时间以确定缓存策略,以实现确定缓存策略的自动化,无需人工编写,从而提高缓存策略的正确率。可选的,该API管理集群在该第一时间段所在周期之后至少一个周期内的缓存时间段,对该缓存策略的正确率进行验证,该至少一个周期为与该第一时间段所在周期相邻的周期;在该正确率大于或者等于预设阈值的情况下,该API管理集群采用该缓存策略对携带第一API标识的API请求消息进行响应。通过该可选的方式,API管理集群能够对确定的缓存策略进行自动验证,进一步确保缓存策略的正确率,并自动采用正确率达到预设阈值的缓存策对API请求消息进行响应,从而保证API管理集群对API请求消息进行响应的正确率。可选的,该在该正确率大于或者等于预设阈值的情况下,该API管理集群采用该缓存策略对携带第一API标识的API请求消息进行响应之后,该方法还包括:该API管理集群采用第一周期,周期性地在该缓存时间段内验证该缓存策略是否有效;当该缓存策略无效时,该API管理集群对该缓存策略进行更新。通过该可选方式,API管理集群能够自动对正在使用的缓存策略进行验证,并在缓存策略验证不通过时,及时对该缓存策略进行更新,以实现对正在使用的缓存策略的自动验证过程,保证缓存策略的正确性。可选的,该API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析之前,该方法还包括:该API管理集群确定该多个API请求消息中携带的服务质量(QualityofService,QoS)等级信息是否符合预设等级;该API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析,包括:若该多个API请求消息中携带的QoS等级信息符合该预设等级,该API管理集群则对接收到的该多个API请求消息和该多个API响应消息进行统计分析。其中,等级信息可以包App的QoS等级,或者App用户的QoS等级,预设等级可以为金牌App等级,通过该可选方式,能够实现API请求消息等级的优先缓存。第二方面,本专利技术实施例提供一种API管理集群,包括:分析统计单元,用于对接收到的多个API请求消息和多个API响应消息进行统计分析,该多个API请求消息与该多个API响应消息一一对应;确定单元,用于根据该分析统计单元确定的统计分析结果确定缓存时间段,该缓存时间段为第一时间段所在周期之后的周期中与该第一时间段相对应的时间段,在该第一时间段内,接收到的所有携带第一API标识的API请求消息对应的API响应消息的内容均相同,该第一时间段为该第一时间段内接收到的第一个携带该第一API标识的API请求消息的时刻,到该第一时间段内接收到最后一个携带该第一API标识的API请求消息对应的API响应消息的时刻;该确定单元,还用于确定缓存策略,该缓存策略用于指示该API管理集群根据在该缓存时间段内接收到的第一个携带该第一API标识的API请求消息对应的API响应消息的内容,对该缓存时间段内接收到的所有携带该第一API标识的API请求消息进行响应。可选的,该API管理集群还包括验证单元和响应单元,该验证单元,用于在该第一时间段所在周期之后至少一个周期内的缓存时间段,对该缓存策略的正确率进行验证,该至少一个周期为与该第一时间段所在周期相邻的周期;该响应单元,用于在该正确率大于或者等于预设阈值的情况下,采用该缓存策略对携带第一API标识的API请求消息进行响应。可选的,该API管理集群还包括更新单元,该验证单元,还用于在该响应单元采用该缓存策略对携带第一API标识的API请求消息进行响应之后,采用第一周期,周期性地在该缓存时间段内验证该缓存策略是否有效;该更新单元,还用于当该验证单元确定该缓存策略无效时,对该缓存策略进行更新。可选的,该确定单元,还用于在该分析统计单元对接收到的多个API请求消息和多个API响应消息进行统计分析之前,确定该多个API请求消息中携带的服务质量QoS等级信息是否符合预设等级;该分析统计单元,具体用于若该确定单元确定该多个API请求消息中携带的QoS等级信息符合该预设等级,则对接收到的该多个API请求消息和该多个API响应消息进行统计分析。本发本文档来自技高网...
一种缓存策略的确定方法及装置

【技术保护点】
一种缓存策略的确定方法,其特征在于,所述方法包括:API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析,所述多个API请求消息与所述多个API响应消息一一对应;所述API管理集群根据统计分析结果确定缓存时间段,所述缓存时间段为第一时间段所在周期之后的周期中与所述第一时间段相对应的时间段,在所述第一时间段内,所述API管理集群接收到的所有携带第一API标识的API请求消息对应的API响应消息的内容均相同,所述第一时间段为所述第一时间段内所述API管理集群接收到的第一个携带所述第一API标识的API请求消息的时刻,到所述第一时间段内所述API管理集群接收到最后一个携带所述第一API标识的API请求消息对应的API响应消息的时刻;所述API管理集群确定缓存策略,所述缓存策略用于指示所述API管理集群根据在所述缓存时间段内接收到的第一个携带所述第一API标识的API请求消息对应的API响应消息的内容,对所述缓存时间段内接收到的所有携带所述第一API标识的API请求消息进行响应。

【技术特征摘要】
1.一种缓存策略的确定方法,其特征在于,所述方法包括:API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析,所述多个API请求消息与所述多个API响应消息一一对应;所述API管理集群根据统计分析结果确定缓存时间段,所述缓存时间段为第一时间段所在周期之后的周期中与所述第一时间段相对应的时间段,在所述第一时间段内,所述API管理集群接收到的所有携带第一API标识的API请求消息对应的API响应消息的内容均相同,所述第一时间段为所述第一时间段内所述API管理集群接收到的第一个携带所述第一API标识的API请求消息的时刻,到所述第一时间段内所述API管理集群接收到最后一个携带所述第一API标识的API请求消息对应的API响应消息的时刻;所述API管理集群确定缓存策略,所述缓存策略用于指示所述API管理集群根据在所述缓存时间段内接收到的第一个携带所述第一API标识的API请求消息对应的API响应消息的内容,对所述缓存时间段内接收到的所有携带所述第一API标识的API请求消息进行响应。2.根据权利要求1所述的方法,其特征在于,在所述第一时间段内,所述API管理集群接收到的所有携带第一API标识和第一参数的API请求消息对应的API响应消息的内容均相同,所述第一时间段为所述第一时间段内所述API管理集群接收到的第一个携带所述第一API标识和所述第一参数的API请求消息的时刻,到所述第一时间段内所述API管理集群接收到最后一个携带所述第一API标识和所述第一参数的API请求消息对应的API响应消息的时刻;所述缓存策略用于指示所述API管理集群根据在所述缓存时间段内接收到的第一个携带所述第一API标识和所述第一参数的API请求消息对应的API响应消息的内容,对所述缓存时间段内接收到的所有携带所述第一API标识和所述第一参数的API请求消息进行响应。3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:所述API管理集群在所述第一时间段所在周期之后至少一个周期内的缓存时间段,对所述缓存策略的正确率进行验证,所述至少一个周期为与所述第一时间段所在周期相邻的周期;在所述正确率大于或者等于预设阈值的情况下,所述API管理集群采用所述缓存策略对携带第一API标识的API请求消息进行响应。4.根据权利要求3所述的方法,其特征在于,所述在所述正确率大于或者等于预设阈值的情况下,所述API管理集群采用所述缓存策略对携带第一API标识的API请求消息进行响应之后,所述方法还包括:所述API管理集群采用第一周期,周期性地在所述缓存时间段内验证所述缓存策略是否有效;当所述缓存策略无效时,所述API管理集群对所述缓存策略进行更新。5.根据权利要求1-4任一项所述的方法,其特征在于,所述API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析之前,所述方法还包括:所述API管理集群确定所述多个API请求消息中携带的服务质量QoS等级信息是否符合预设等级;所述API管理集群对接收到的多个API请求消息和多个API响应消息进行统计分析,包括:若所述多个API请求消息中携带的QoS等级信息符合所述预设等级,所述API管理集群则对接收到的所...

【专利技术属性】
技术研发人员:梁标
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1