一种历史数据存储方法和系统技术方案

技术编号:10537302 阅读:158 留言:0更新日期:2014-10-15 14:45
本发明专利技术公开一种历史数据存储方法和系统,所述方法针对历史数据中存在价值较低的数据这一现象,预先制定了筛选策略,以过滤价值较低的数据;并将结构化数据转化为非结构化的文本数据,同时为避免对部分表内的数据在每个抽取周期重复抽取,造成存储浪费,制定了数据抽取策略及相应的两种抽取方式:增量和全量抽取,例如明细类表数据量大、增量大且有时间字段,可采用增量方式进行数据抽取,只保存增量数据,而其他表则采用全量方式,最终得到文本格式的抽取数据,并将其保存至存储设备。可见,本发明专利技术通过数据筛选过滤了价值较低的数据,同时只保存增量数据,并将结构化数据转化为非结构化的文本数据,大大减少了需保存的数据量,降低了存储成本。

【技术实现步骤摘要】
【专利摘要】本专利技术公开一种历史数据存储方法和系统,所述方法针对历史数据中存在价值较低的数据这一现象,预先制定了筛选策略,以过滤价值较低的数据;并将结构化数据转化为非结构化的文本数据,同时为避免对部分表内的数据在每个抽取周期重复抽取,造成存储浪费,制定了数据抽取策略及相应的两种抽取方式:增量和全量抽取,例如明细类表数据量大、增量大且有时间字段,可采用增量方式进行数据抽取,只保存增量数据,而其他表则采用全量方式,最终得到文本格式的抽取数据,并将其保存至存储设备。可见,本专利技术通过数据筛选过滤了价值较低的数据,同时只保存增量数据,并将结构化数据转化为非结构化的文本数据,大大减少了需保存的数据量,降低了存储成本。【专利说明】一种历史数据存储方法和系统
本专利技术属于数据存储、管理
,尤其涉及一种历史数据存储方法和系统。
技术介绍
随着信息技术应用的不断发展,大型企业尤其是金融行业的信息系统产生的历史 数据越来越庞大,而且历史数据的增长量也越来越快。 大型企业尤其是金融行业的历史数据包含较多的重要信息、敏感信息,例如银行 系统的客户数据等,基于企本文档来自技高网...
一种历史数据存储方法和系统

【技术保护点】
一种历史数据存储方法,其特征在于,包括:依据预先制定的筛选策略对信息系统产生的结构化历史数据进行筛选,得到待归档的结构化历史数据,所述待归档的结构化历史数据包括至少一种类型的数据表;依据预先设定的数据抽取策略获取所述待归档的结构化历史数据中每种类型数据表所属的数据抽取方式,其中,所述数据抽取方式包括增量抽取方式和全量抽取方式;若相应类型数据表的抽取方式为增量抽取方式,则对所述类型数据表中的数据进行增量抽取,得到文本文件格式的增量数据;若相应类型数据表的抽取方式为全量抽取方式,则对所述类型数据表中的数据进行全量抽取,得到文本文件格式的全量数据;将所述文本文件格式的增量数据以及全量数据保存至存储设...

【技术特征摘要】

【专利技术属性】
技术研发人员:杨亮王晶
申请(专利权)人:中国农业银行股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1