低时延场景下的数据存储方法、装置、设备及介质制造方法及图纸

技术编号:36165799 阅读:65 留言:0更新日期:2022-12-31 20:15
本发明专利技术涉及大数据技术领域,提供一种低时延场景下的数据存储方法、装置、设备及介质,其方法包括:将低时延场景下的消息数据追加至日志文件并写入磁盘;获取所述日志文件中的每个消息数据,并根据每个消息数据生成索引对象;将所述索引对象保存至内存队列;检测所述内存队列是否已满,及检测距离上次将所述内存队列中的索引对象转存至所述磁盘的时间间隔;当所述内存队列及/或所述时间间隔达到配置条件时,将所述内存队列中的所述索引对象从所述内存队列转存至所述磁盘,并从所述内存队列中删除转存至所述磁盘的索引对象。利用本发明专利技术能够在低时延场景下实现对数据的高速存储,且无需单独部署及维护。单独部署及维护。单独部署及维护。

【技术实现步骤摘要】
低时延场景下的数据存储方法、装置、设备及介质


[0001]本专利技术涉及大数据
,尤其涉及一种低时延场景下的数据存储方法、装置、设备及介质。

技术介绍

[0002]存储引擎是数据库底层用于存储数据、读取数据、修改数据和删除数据的软件部分。目前,市面上具有多种数据库,每种数据库都有属于自己的存储引擎,但是这些存储引擎都与数据库绑定,并提供很多复杂的功能,无法单独作为一种存储解决方案使用,导致存储效率受到影响。并且,由于数据库是独立组件,还需要单独部署及维护。
[0003]尤其对于低时延场景,如金融类场景,在这些场景下,数据需要有序写入,只有追加写,不涉及到删除及修改数据,且检索数据也只在一个连续的区间,不会随机访问数据,因此对存储效率要求较高。

技术实现思路

[0004]鉴于以上内容,有必要提供一种低时延场景下的数据存储方法、装置、设备及介质,旨在解决低时延场景下数据存储效率低的问题。
[0005]一种低时延场景下的数据存储方法,所述低时延场景下的数据存储方法包括:当接收到低时延场景下的消息数据时,将所述消息本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种低时延场景下的数据存储方法,其特征在于,所述低时延场景下的数据存储方法包括:当接收到低时延场景下的消息数据时,将所述消息数据追加至日志文件,并将所述日志文件写入磁盘;获取所述日志文件中的每个消息数据,并根据每个消息数据生成索引对象;将所述索引对象保存至内存队列;检测所述内存队列是否已满,及检测距离上次将所述内存队列中的索引对象转存至所述磁盘的时间间隔;当所述内存队列及/或所述时间间隔达到配置条件时,将所述内存队列中的所述索引对象从所述内存队列转存至所述磁盘,并从所述内存队列中删除转存至所述磁盘的索引对象。2.如权利要求1所述的低时延场景下的数据存储方法,其特征在于,所述将所述消息数据追加至日志文件包括:获取每个日志文件的文件体积;按照时间顺序及每个日志文件的文件体积,将所述消息数据依次写入到至少一个日志文件;其中,按照所述消息数据的写入顺序依次配置所述消息数据的序号,并根据每个日志文件中所包含的消息数据的序号区间为每个日志文件命名。3.如权利要求1所述的低时延场景下的数据存储方法,其特征在于,所述根据每个消息数据生成索引对象包括:获取每个消息数据在所述磁盘中的存储地址;根据每个消息数据在所述磁盘中的存储地址生成每个消息数据的索引对象;其中,根据每个索引对象的生成顺序依次配置每个索引对象的序号,并根据每个索引对象的序号为每个索引对象命名。4.如权利要求1所述的低时延场景下的数据存储方法,其特征在于,所述将所述索引对象保存至内存队列包括:获取每个索引对象所对应的消息数据的消息属性;获取预先配置的写入规则;根据所述写入规则及所述消息属性将所述索引对象写入所述内存队列。5.如权利要求1所述的低时延场景下的数据存储方法,其特征在于,在将所述内存队列中的所述索引对象从所述内存队列转存至所述磁盘前,所述方法还包括:获取预先配置的时间阈值;比较所述时间间隔与所述时间阈值;当所述内存队列已满,及/或所述时间间隔达到所述时间阈值、所述内存队列中有...

【专利技术属性】
技术研发人员:杨超张卫张彬彬赵楠李杰李超肖东升
申请(专利权)人:上海华锐软件有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1