数据处理方法、装置、存储介质以及电子设备制造方法及图纸

技术编号:33387172 阅读:14 留言:0更新日期:2022-05-11 23:02
本发明专利技术公开了一种数据处理方法、装置、存储介质以及电子设备。该方法包括:读取多个数据库中,每一个数据库的数据;将读取的数据写入到分布式文件系统中;在接收到向多个数据库中任意一个数据库中写入数据的写入请求的情况下,将写入请求所请求写入的数据写入到分布式文件系统中;注册用于处理分布式文件系统中的数据的目标服务;在接收到对分布式文件系统中的数据的处理请求的情况下,调用目标服务处理分布式文件系统中的数据。本发明专利技术解决了各单位间的数据存在数据壁垒,无法互通访问的技术问题。问题。问题。

【技术实现步骤摘要】
数据处理方法、装置、存储介质以及电子设备


[0001]本专利技术涉及计算机领域,具体而言,涉及一种数据处理方法、装置、存储介质以及电子设备。

技术介绍

[0002]现有技术中,涉及到不同组织或者单位的数据,由于各个组织或者单位数据存储的数据库并不互通,如果要跨单位进行数据的读写,则需要将A单位的用于访问A单位数据库的账号分配给B单位的员工,从而B单位的员工才能够使用A单位的数据。
[0003]也就是说,现有技术中的方法,存在不同单位间存在数据壁垒,无法互通访问的问题。

技术实现思路

[0004]本专利技术实施例提供了一种数据处理方法、装置、存储介质以及电子设备,以至少解决各单位间的数据存在数据壁垒,无法互通访问的技术问题。
[0005]根据本专利技术实施例的一个方面,提供了一种数据处理方法,包括:读取多个数据库中,每一个数据库的数据;将读取的数据写入到分布式文件系统中;在接收到向上述多个数据库中任意一个数据库中写入数据的写入请求的情况下,将上述写入请求所请求写入的数据写入到上述分布式文件系统中;注册用于处理上述分布式文件系统中的数据的目标服务;在接收到对上述分布式文件系统中的数据的处理请求的情况下,调用上述目标服务处理上述分布式文件系统中的数据。
[0006]根据本专利技术实施例的另一方面,提供了一种数据处理装置,包括:读取模块,用于读取多个数据库中,每一个数据库的数据;第一写入模块,用于将读取的数据写入到分布式文件系统中;第二写入模块,用于在接收到向上述多个数据库中任意一个数据库中写入数据的写入请求的情况下,将上述写入请求所请求写入的数据写入到上述分布式文件系统中;注册模块,用于注册用于处理上述分布式文件系统中的数据的目标服务;调用模块,用于在接收到对上述分布式文件系统中的数据的处理请求的情况下,调用上述目标服务处理上述分布式文件系统中的数据。
[0007]作为一种可选的示例,上述第二写入模块包括:解析单元,用于在接收到向上述多个数据库中任意一个数据库中写入数据的写入请求的情况下,通过解析器解析上述写入请求所请求写入的数据;传输单元,用于将解析得到的数据通过消息总线传输到流计算任务;计算单元,用于由上述流计算任务对解析得到的数据进行计算,写入到上述分布式文件系统中。
[0008]作为一种可选的示例,上述装置还包括:监控模块,用于在注册用于处理上述分布式文件系统中的数据的目标服务之后,监控包括上述目标服务在内的每一个服务的服务状态与生命周期;注销模块,用于在任意一个上述服务的上述生命周期结束的情况下,注销上述生命周期结束的上述服务;发送模块,用于在任意一个上述服务的上述服务状态异常的
情况下,发送告警信息。
[0009]作为一种可选的示例,上述装置还包括:创建模块,用于在接收到申请使用沙箱的申请请求的情况下,在当前不存在可用沙箱的情况下,创建目标沙箱,其中,上述目标沙箱禁止对上述目标沙箱中的数据进行下载;推送模块,用于在产生上述申请请求的第一账号具备访问上述目标沙箱的账号权限的情况下,周期性的将上述第一账号所要访问的数据推送到上述目标沙箱中;控制模块,用于在上述第一账号登入上述目标沙箱的情况下,由上述第一账号访问上述目标沙箱中的数据。
[0010]作为一种可选的示例,上述装置还包括:第一检测模块,用于周期性的检测上述目标沙箱的状态;删除模块,用于在上述目标沙箱过期的情况下,删除上述目标沙箱中的数据;第一处理模块,用于禁止上述第一账号访问上述目标沙箱。
[0011]作为一种可选的示例,上述装置还包括:第二检测模块,用于在将读取的数据写入到分布式文件系统中或者在将上述写入请求所请求写入的数据写入到上述分布式文件系统中时,检测所要写入的数据的字段类型,根据上述字段类型,确定所要写入的数据的加密等级;处理模块,用于在将所要写入的数据写入到上述分布式文件系统中之后,在接收到对写入的第一数据的访问请求的情况下,在产生上述访问请求的第二账号的访问等级小于上述第一数据的加密等级的情况下,使用特殊字符至少部分替换上述第一数据的内容,将替换后的上述第一数据返回给上述第二账号,在上述第二账号的访问等级大于或等于上述第一数据的加密等级的情况下,将上述第一数据返回给上述第二账号。
[0012]作为一种可选的示例,上述装置还包括:确定模块,用于在接收到用于访问上述分布式文件系统中的数据的访问请求的情况下,确定上述分布式文件系统的当前访问量;第二处理模块,用于在上述当前访问量超出预设访问量的情况下,禁止产生上述访问请求的第三账号访问上述分布式文件系统中的数据。
[0013]作为一种可选的示例,上述装置还包括:获取模块,用于获取目标图像,其中,上述目标图像中包括文本数据;识别模块,用于识别上述目标图像中的上述文本数据,得到目标数据;存储模块,用于将上述目标数据存储到上述分布式文件系统中。
[0014]根据本专利技术实施例的又一方面,还提供了一种存储介质,该存储介质中存储有计算机程序,其中,该计算机程序被处理器运行时执行上述数据处理方法。
[0015]根据本专利技术实施例的又一方面,还提供了一种电子设备,包括存储器和处理器,上述存储器中存储有计算机程序,上述处理器被设置为通过上述计算机程序执行上述的数据处理方法。
[0016]在本专利技术实施例中,采用了读取多个数据库中,每一个数据库的数据;将读取的数据写入到分布式文件系统中;在接收到向上述多个数据库中任意一个数据库中写入数据的写入请求的情况下,将上述写入请求所请求写入的数据写入到上述分布式文件系统中;注册用于处理上述分布式文件系统中的数据的目标服务;在接收到对上述分布式文件系统中的数据的处理请求的情况下,调用上述目标服务处理上述分布式文件系统中的数据的方法,由于在上述方法中,对于多个不互通的数据库,可以读取每一个数据库中的数据,写入到分布式文件系统中,而对于新的要写入到多个数据库中的任意一个数据库中的数据,将其写入到分布式文件系统中。不同的单位可以访问分布式文件系统的数据,从而实现了打通数据壁垒的目的,进而解决了各单位间的数据存在数据壁垒,无法互通访问的技术问题。
附图说明
[0017]此处所说明的附图用来提供对本专利技术的进一步理解,构成本申请的一部分,本专利技术的示意性实施例及其说明用于解释本专利技术,并不构成对本专利技术的不当限定。在附图中:
[0018]图1是根据本专利技术实施例的一种可选的数据处理方法的流程图;
[0019]图2是根据本专利技术实施例的一种可选的数据处理方法的系统示意图;
[0020]图3是根据本专利技术实施例的一种可选的数据处理方法的沙箱申请示意图;
[0021]图4是根据本专利技术实施例的一种可选的数据处理装置的结构示意图;
[0022]图5是根据本专利技术实施例的一种可选的电子设备的示意图。
具体实施方式
[0023]为了使本
的人员更好地理解本专利技术方案,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:读取多个数据库中,每一个数据库的数据;将读取的数据写入到分布式文件系统中;在接收到向所述多个数据库中任意一个数据库中写入数据的写入请求的情况下,将所述写入请求所请求写入的数据写入到所述分布式文件系统中;注册用于处理所述分布式文件系统中的数据的目标服务;在接收到对所述分布式文件系统中的数据的处理请求的情况下,调用所述目标服务处理所述分布式文件系统中的数据。2.根据权利要求1所述的方法,其特征在于,所述在接收到向所述多个数据库中任意一个数据库中写入数据的写入请求的情况下,将所述写入请求所请求写入的数据写入到所述分布式文件系统中包括:在接收到向所述多个数据库中任意一个数据库中写入数据的写入请求的情况下,通过解析器解析所述写入请求所请求写入的数据;将解析得到的数据通过消息总线传输到流计算任务;由所述流计算任务对解析得到的数据进行计算,写入到所述分布式文件系统中。3.根据权利要求1所述的方法,其特征在于,在注册用于处理所述分布式文件系统中的数据的目标服务之后,所述方法还包括:监控包括所述目标服务在内的每一个服务的服务状态与生命周期;在任意一个所述服务的所述生命周期结束的情况下,注销所述生命周期结束的所述服务;在任意一个所述服务的所述服务状态异常的情况下,发送告警信息。4.根据权利要求1至3任意一项所述的方法,其特征在于,所述方法还包括:在接收到申请使用沙箱的申请请求的情况下,在当前不存在可用沙箱的情况下,创建目标沙箱,其中,所述目标沙箱禁止对所述目标沙箱中的数据进行下载;在产生所述申请请求的第一账号具备访问所述目标沙箱的账号权限的情况下,周期性的将所述第一账号所要访问的数据推送到所述目标沙箱中;在所述第一账号登入所述目标沙箱的情况下,由所述第一账号访问所述目标沙箱中的数据。5.根据权利要求4所述的方法,其特征在于,所述方法还包括:周期性的检测所述目标沙箱的状态;在所述目标沙箱过期的情况下,删除所述目标沙箱中的数据;禁止所述第一账号访问所述目标沙箱。6.根据权利要求1所述的方法,其特征在于,所述方法还包括:在将读取的数据写入到分布式文件系统中或者在将...

【专利技术属性】
技术研发人员:赵紫辉
申请(专利权)人:北京金山云网络技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1