【技术实现步骤摘要】
本专利技术涉及api查询请求,尤其涉及一种基于时间窗口缓存提升api查询并发量的方法和系统。
技术介绍
1、缓存api接口查询结果是提高api性能的有效方法,恰当的使用缓存可以避免额外的数据库查询开销,从而提升api查询并发量。目前,api平台采用的缓存的方式如图1所示,当收到api查询请求,优先读缓存,如果读取不到缓存再查询数据库,然后将查询结果写入缓存。
2、在实际应用中,api平台使用如图1所示的缓存方式,存在以下缺点:1.当缓存过期时间设定短,会导致每次流量高峰大多数请求等不到缓存写入故缓存命中很低;2.当缓存过期时间设定长,会导致查不到最新数据,且第一波流量高峰的缓存命中仍然很低;3.需要通过读取缓存的方式来判断缓存是否存在,这种方式速度太慢,也影响api的并发性能。以按城市名称查天气预报api的场景为例,当api平台在某个时刻收到大批查询北京天气的请求时,绝大部分请求都来不及读取到缓存,直接就走了接口查询方法;当下一波天气查询的高峰来临时,又不一定查询的是北京天气,即使再次查询北京天气读取到缓存,这个缓存数据也可
...【技术保护点】
1.一种基于时间窗口缓存提升API查询并发量的方法,其特征在于,所述方法包括:
2.根据权利要求1所述的基于时间窗口缓存提升API查询并发量的方法,其特征在于,接收API查询请求,根据接收的API查询请求和当前时间构建缓存key,根据构建的缓存key从缓存控制容器中匹配对应的控制元素,包括:
3.根据权利要求2所述的基于时间窗口缓存提升API查询并发量的方法,其特征在于,根据同步计数器、缓存写入状态以及构建的缓存key构建对应的控制元素,包括:
4.根据权利要求1所述的基于时间窗口缓存提升API查询并发量的方法,其特征在于,采用匹配
...【技术特征摘要】
1.一种基于时间窗口缓存提升api查询并发量的方法,其特征在于,所述方法包括:
2.根据权利要求1所述的基于时间窗口缓存提升api查询并发量的方法,其特征在于,接收api查询请求,根据接收的api查询请求和当前时间构建缓存key,根据构建的缓存key从缓存控制容器中匹配对应的控制元素,包括:
3.根据权利要求2所述的基于时间窗口缓存提升api查询并发量的方法,其特征在于,根据同步计数器、缓存写入状态以及构建的缓存key构建对应的控制元素,包括:
4.根据权利要求1所述的基于时间窗口缓存提升api查询并发量的方法,其特征在于,采用匹配的控制元素对api查询请求进行标记和分类,获得头部查询请求和后继查询请求,包括:
5.根据权利要求1所述的基于时间窗口缓存提升api查询并发量的方法,其特征在于,监听缓存写入状态,根据监听的缓存写入状态分别执行头部查询请求和后继查询请求,对控制元素进行更新,包括:
6.根据权利要求1所述的基于时间窗口缓存提升api查询并发量的方法,其特征在于,监听缓存写入状态,根据监听的缓存写入状态分别执行头部查询请求和后继查询请求,对控制元素进行更新,包括:
7.根据权利要求1所述的基于时间窗口缓存提升api查询并发量的方法,其特征在于,监听缓存写入状态,根据监...
【专利技术属性】
技术研发人员:汪飞,盛振宇,师莎,
申请(专利权)人:中电云计算技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。