流式数据的多高速缓存处理制造技术

技术编号:26800415 阅读:54 留言:0更新日期:2020-12-22 17:19
一种计算机在数据处理系统中的高速缓存存储器上提供第一高速缓存区域和第二高速缓存区域,该数据处理系统包括数据库储存库和用于该数据库储存库的高速缓存存储器。计算机在第一时间窗口中接收流式数据,并将流式数据写入第一高速缓存区域。计算机在第一时间窗口中禁止在第一高速缓存区域与数据库储存库之间执行同步。计算机在第一时间窗口的至少一部分中使能数据库储存库与第二高速缓存区域之间的同步。计算机在第一时间窗口过去时使能第一高速缓存区域与数据库储存库之间的同步。

【技术实现步骤摘要】
【国外来华专利技术】流式数据的多高速缓存处理
本专利技术涉及流式计算,并且更具体地,涉及处理流式数据。
技术介绍
流式计算是一种计算范例,其读取从潜在的数千个数据源(例如软件或硬件传感器)以流形式连续获得的数据,然后计算流式数据以提供计算的分析结果。流式数据可以是如下的各种数据:例如,金融交易数据;由任何传感器生成的日志文件数据,所述传感器诸如物联网(IoT)设备、电能表、气表、水表、游戏中玩家活动、移动或web应用、RFID标签、包括通勤通行证或信用卡的IC卡、或从微博获得的文本信息。流式数据可以具有但不限于小的尺寸(例如,千字节的量级)。通常,流式数据需要在逐个记录的基础上或在滑动时间窗口上被顺序地并且进一步递增地处理,并且可以被用于各种各样的分析,诸如相关、聚合、过滤和采样。流式数据的处理在连续产生新的动态数据的情况下是有益的。因此,流式数据的处理需要实时摄取流式数据并使用高速缓存存储器来更新数据库储存库。存在一些已知的用于处理流式数据的技术,每个都具有缺点。一种传统的解决方案使用数据库高速缓存和存储器内数据库作为数据库高速缓本文档来自技高网...

【技术保护点】
1.一种用于处理流式数据的计算机实现的方法,包括:/n在数据处理系统中的高速缓存存储器上提供第一高速缓存区域和第二高速缓存区域,所述数据处理系统包括数据库储存库和用于所述数据库储存库的所述高速缓存存储器;/n在第一时间窗口中接收流式数据并且将所述流式数据写入在所述第一高速缓存区域上;/n在所述第一时间窗口中禁止在所述第一高速缓存区域与所述数据库储存库之间执行同步;/n在所述第一时间窗口的至少一部分中,使能所述数据库储存库与所述第二高速缓存区域之间的同步;以及/n在所述第一时间窗口过去时,使能所述第一高速缓存区域和所述数据库储存库之间的同步。/n

【技术特征摘要】
【国外来华专利技术】20180608 US 16/004,0201.一种用于处理流式数据的计算机实现的方法,包括:
在数据处理系统中的高速缓存存储器上提供第一高速缓存区域和第二高速缓存区域,所述数据处理系统包括数据库储存库和用于所述数据库储存库的所述高速缓存存储器;
在第一时间窗口中接收流式数据并且将所述流式数据写入在所述第一高速缓存区域上;
在所述第一时间窗口中禁止在所述第一高速缓存区域与所述数据库储存库之间执行同步;
在所述第一时间窗口的至少一部分中,使能所述数据库储存库与所述第二高速缓存区域之间的同步;以及
在所述第一时间窗口过去时,使能所述第一高速缓存区域和所述数据库储存库之间的同步。


2.根据权利要求1所述的方法,其中,所述数据处理系统还包括与应用的接口,并且还包括:
使所述应用能够访问所述高速缓存存储器,以便实时处理输入的流式数据。


3.根据前述权利要求中任一项所述的方法,所述方法还包括:
在所述第一时间窗口过去时,禁止所述数据库储存库与所述第二高速缓存区域之间的同步。


4.根据权利要求3所述的方法,所述方法还包括:
在所述第一时间窗口过去时,在所述第二高速缓存区域上写入新输入的流式数据。


5.根据前述权利要求中任一项所述的方法,所述方法还包括,
在所述第一时间窗口过去时,将所述第一高速缓存区域的角色与所述第二高速缓存区域的角色交换;以及
在第二时间窗口内,实现交换之后的所述第一高速缓存区域与所述数据库储存库之间的同步;
在所述第二时间窗口中,将新输入的流式数据写入所述第二高速缓存区域;以及
在所述第二时间窗口中,禁止所述第二高速缓存区域与所述数据库储存库之间的同步。


6.根据权利要求5所述的方法,所述方法还包括:
在所述第二时间窗口过去时,将所述交换之后的所述第一高速缓存区域的角色与所述交换之后的所述第二高速缓存区域的角色重新交换;以及
在第三时间窗口中,重复所述接收、所述写入和所述使能。


7.根据前述权利要求中任一项所述的方法,所述方法还包括:
在所述第一时间窗口中,在整个所述第一高速缓存区域上锁定对所述第一高速缓存区域的访问;以及
在所述第一时间窗口中,在整个所述第二高速缓存区域上锁定对所述第二高速缓存区域的访问。


8.根据权利要求1至6中任一项所述的方法,所述方法还包括:
在所述第一时间窗口中,在散列索引基础上锁定对所述第一高速缓存区域的访问;以及
在所述第一时间窗口中,在整个所述第二高速缓存区域上锁定对所述第二高速缓存区域的访问。


9.根据权利要求8所述的方法,所述方法还包括:
在所述第一时间窗口过去时,将所述第一高速缓存区域的角色与所述第二高速缓存区域的角色交换;以及
在第二时间窗口中,在整个所述第一高速...

【专利技术属性】
技术研发人员:川人基弘
申请(专利权)人:国际商业机器公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1