一种文件型门卫式存储加密功能的Hadoop系统及其应用方法技术方案

技术编号:27656869 阅读:26 留言:0更新日期:2021-03-12 14:19
本发明专利技术公开了一种文件型门卫式存储加密功能的Hadoop系统及其应用方法,Hadoop系统包括设置于Hadoop服务端的Hadoop计算节点、门卫式存储加密设备和存储系统,所述门卫式存储加密设备连接在Hadoop计算节点和存储系统之间对数据透明加解密,Hadoop计算节点包括基于Hadoop文件系统API实现的存储加密代理单元,存储加密代理单元接收Hadoop文件系统API层的I/O请求并将其发送给门卫式存储加密设备,门卫式存储加密设备负责对I/O请求进行透明加解密并调用存储插件打开存储系统访问接口将密文数据写入存储系统中,通过上述结构Hadoop服务端可实现对Hadoop文件存储数据的透明加解密,能够防止数据被恶意窃取及篡改,具有兼容性好的优点,相对客户端实现的加解密方式而言,不存在加解密过程被旁路的风险。

【技术实现步骤摘要】
一种文件型门卫式存储加密功能的Hadoop系统及其应用方法
本专利技术涉及大数据计算安全领域,尤其涉及一种文件型门卫式存储加密功能的Hadoop系统及其应用方法。
技术介绍
Hadoop是一个分布式系统基础框架,基于集群工作模式对外提供高速计算和海量存储能力。Hadoop的核心组件是HDFS(HadoopDistributedFileSystem)和MapReduce,HDFS为海量数据提供了存储,MapReduce则为海量数据提供了计算。HDFS是一个分布式文件系统,具有高容错性的特点,设计为部署在低廉的硬件上,并且提供高吞吐量和超大合集的数据存储能力。HDFS支持EncryptionZone在Hadoop客户端对数据进行透明加解密,加密算法支持AES、3DES等通用算法,但是在客户端对数据进行加解密存在被旁路的风险,另外软件算法实现的加密存在密钥被窃取、加密速度低等劣势。综上,实现对Hadoop文件存储数据的加密很有必要性,如何实现Hadoop文件存储数据的加密,已经成为一项亟待解决的关键技术问题。专利技术内容本专利本文档来自技高网...

【技术保护点】
1.一种文件型门卫式存储加密功能的Hadoop系统,其特征在于,包括设置于Hadoop服务端的Hadoop计算节点、门卫式存储加密设备和存储系统,所述门卫式存储加密设备连接在Hadoop计算节点和存储系统之间对数据透明加解密,所述Hadoop计算节点包括存储加密代理单元,所述存储加密代理单元用于获取文件I/O请求并转发给门卫式存储加密设备;所述门卫式存储加密设备包括:/n加密文件系统服务单元,用于接受存储加密代理单元转发的文件I/O请求,并调用高速密码卡模块对文件I/O请求对应的数据加解密;/n文件缓存,用于为文件I/O请求对应的数据提供缓存空间;/n高速密码卡模块,用于调用密码卡算法和预先分...

【技术特征摘要】
1.一种文件型门卫式存储加密功能的Hadoop系统,其特征在于,包括设置于Hadoop服务端的Hadoop计算节点、门卫式存储加密设备和存储系统,所述门卫式存储加密设备连接在Hadoop计算节点和存储系统之间对数据透明加解密,所述Hadoop计算节点包括存储加密代理单元,所述存储加密代理单元用于获取文件I/O请求并转发给门卫式存储加密设备;所述门卫式存储加密设备包括:
加密文件系统服务单元,用于接受存储加密代理单元转发的文件I/O请求,并调用高速密码卡模块对文件I/O请求对应的数据加解密;
文件缓存,用于为文件I/O请求对应的数据提供缓存空间;
高速密码卡模块,用于调用密码卡算法和预先分配的密钥对文件缓存中的数据进行加解密;
存储插件池,用于和存储系统的数据连接,并调用相应的存储插件打开存储系统访问接口对存储系统读写数据。


2.根据权利要求1所述的文件型门卫式存储加密功能的Hadoop系统,其特征在于,所述Hadoop计算节点还包括:
MapReduce任务,用于调用Hadoop文件系统API读写文件;
Hadoop文件系统API层,用于根据默认实现将文件请求写入底层文件系统,所述Hadoop文件系统API层和存储加密代理单元之间的数据IO通信。


3.根据权利要求2所述的文件型门卫式存储加密功能的Hadoop系统,其特征在于,所述存储加密代理单元基于Hadoop抽象文件系统的JAVA类实现了Hadoop文件系统API层的所有接口。


4.根据权利要求1所述的文件型门卫式存储加密功能的Hadoop系统,其特征在于,所述加密文件系统服务单元基于操作系统内核PageCache实现了对数据的缓存。


5.根据权利要求1所述的文件型门卫式存储加密功能的Hadoop系统,其特征在于,所述密钥与文件I/O请求对应的文件一一对应且各不相同。


6.根据权利要求1所述的文件型门卫式存储加密功能的Hadoop系统,其特征在于,所述存储系统包括HDFS、NAS存储系统和分布式存储系统中的一种或多种。


7.一种权利...

【专利技术属性】
技术研发人员:蒋李彭勇申锟铠刘文清杨涛
申请(专利权)人:湖南麒麟信安科技股份有限公司
类型:发明
国别省市:湖南;43

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1