一种多源异构数据处理方法、装置和存储介质制造方法及图纸

技术编号:23161637 阅读:26 留言:0更新日期:2020-01-21 21:58
本发明专利技术提出了一种多源异构数据处理方法、装置和存储介质,用以提供一种实现多源数据统一接入和管理。本发明专利技术实施例提供一种多源异构数据处理方法,包括:接收数据源系统上传的结构化数据,所述结构化数据为利用预先定义的可扩展标记语言XML模板对元数据进行处理后得到的;利用XSL文本转换器将所述结构化数据转换为键值对K‑V类型数据,所述XSL文本转换器为根据所述XML模板生成的,所述K‑V类型数据中包含有混合字段,所述混合字段为利用需要被搜索的字段拼接得到的;从所述K‑V类型数据中抽取数据值存储至地理空间关系型数据库中。

【技术实现步骤摘要】
一种多源异构数据处理方法、装置和存储介质
本专利技术涉及数据汇聚与管理
,尤其涉及一种多源异构数据处理方法、装置和存储介质。
技术介绍
地面信息港依托天地一体化信息网络,汇聚多源异构时空数据,搭建分布式云公共基础设施环境,部署统一服务开放平台,打造新型时空数据服务枢纽。其中,数据存管模块是地面信息港的数据接收中心、多源数据资源中心和搜索大脑,是多系统间的连接集成中心。提供将运管个人空间内流程化生产的数据注册存储至数据中心、为可视化中心三维展示提供数据源、数据中心数据发布、多源异构数据接收等多种集成功能。然而地面信息港的数据来源复杂,尤其是包含大量地理空间数据和非空间数据常规数据,如何将这些数据用一种合理、灵活、易理解的方式组织起来成为现有技术中亟待解决的技术问题之一。
技术实现思路
本专利技术实施例提供一种多源异构数据处理方法、装置和存储介质,用以提供一种实现多源数据统一接入和管理。本专利技术实施例提供一种多源异构数据处理方法,包括:接收数据源系统上传的结构化数据,所述结构化数据为利用预本文档来自技高网...

【技术保护点】
1.一种多源异构数据处理方法,其特征在于,包括:/n接收数据源系统上传的结构化数据,所述结构化数据为利用预先定义的可扩展标记语言XML模板对元数据进行处理后得到的;/n利用可扩展样式表语言XSL文本转换器将所述结构化数据转换为键值对K-V类型数据,所述XSL文本转换器为根据所述XML模板生成的,所述K-V类型数据中包含有混合字段,所述混合字段为利用需要被搜索的字段拼接得到的;/n从所述K-V类型数据中抽取数据值存储至地理空间关系型数据库中。/n

【技术特征摘要】
1.一种多源异构数据处理方法,其特征在于,包括:
接收数据源系统上传的结构化数据,所述结构化数据为利用预先定义的可扩展标记语言XML模板对元数据进行处理后得到的;
利用可扩展样式表语言XSL文本转换器将所述结构化数据转换为键值对K-V类型数据,所述XSL文本转换器为根据所述XML模板生成的,所述K-V类型数据中包含有混合字段,所述混合字段为利用需要被搜索的字段拼接得到的;
从所述K-V类型数据中抽取数据值存储至地理空间关系型数据库中。


2.根据权利要求1所述的方法,其特征在于,接收数据源系统上传的结构化数据,具体包括:
接收数据源系统通过文件传输协议FTP上传的结构化数据。


3.根据权利要求1所述的方法,其特征在于,还包括:
接收数据查询请求,所述数据查询请求中携带有查询参数;
根据所述查询参数,生成结构化查询语言SQL语句;
利用所述SQL语句在所述地理空间关系型数据库中进行查询得到查询结果。


4.根据权利要求3所述的方法,其特征在于,根据所述查询参数,生成SQL语句,具体包括:
将所述查询参数转换为K-V键值对;
针对每一查询参数,根据该查询参数的值,生成SQL子语句;
将每一查询参数对应的SQL子语句拼接成SQL语句。


5.根据权利要求4所述的方法,其特征在于,所述查询参数包括以下至少一项:选择参数,条件参数,起始位置参数,结束位置参数和排序参数。


6.根据权利要求1所述的方法...

【专利技术属性】
技术研发人员:郑作亚仇林遥陈旭呙维贾向阳潘一凡柳罡李黔湘鲁续坤
申请(专利权)人:中国电子科技集团公司电子科学研究院武汉大学
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1