一种基于桥接的无限带宽协议转换方法及系统技术方案

技术编号:8107827 阅读:234 留言:0更新日期:2012-12-21 08:12
本发明专利技术提供一种基于桥接的无限带宽协议转换方法及系统,所述系统包括客户端、云桥中间件和存储服务器,存储服务器和客户端分别通过无限带宽网和以太网连接云桥中间件,所述存储服务器通过SRP协议对外映射逻辑单元号;所述云桥中间件的磁盘控制器将逻辑单元号封装成系统识别的物理盘,通过云桥中间件中的多个物理盘管理组管理所述物理盘;在云桥中间件的云桥逻辑卷控制器的控制下,将所述物理盘管理组整合,为用户划分并生成虚拟磁盘;所述虚拟磁盘通过ISCSI协议映射给客户端使用。本发明专利技术的方法及系统实现了无限带宽网和以太网协议转换能力,将infiniband架构的高速存储通过云桥中间件的资源整合后为前端客户端提供高速以太网。

【技术实现步骤摘要】

本专利技术涉及一种协议转换方法及系统,尤其涉及一种基于桥接的无限带宽协议转换方法及系统
技术介绍
在云计算环境中,需要大量计算节点去完成用户提交的任务,这些计算节点需要空间来临时存放节点计算数据。由于采用并行计算,需要后端连接存储的传输是高速、稳定、可靠、超低延时的。目前主流千兆网的带宽已经不能满足今后云计算环境的需求,云计算环境主流传输带宽是IOGbps起。当前无限带宽(Infiniband, IB)技术非常适合云计算的环境,目前其单端口带宽最高达56Gbps,延时端到端可以达到200纳秒,无论带宽还是延时均远远领先以太网技术,其远程直接内存访问(Remote direct memory access,RDMA)技术使得CPU处理通讯包只是占整个系统资源3%,大部分宝贵的资源让给用户作业,97%流量通讯是通过本地内存到远端内存访问实现。TCP/IP在大流量通讯时严重消耗CPU资源,虽然目前IOGb以太网推出TCP/IP负荷卸载引擎(TCP/IP Offload Engine, TOE)硬件加速设 计,但其有限的卸载能力和可观的价格是较大的障碍。与以太网的TCP/IP技术相比,InfiniBand技术具有更高的传输效率。原因在于许多网络协议具有转发损失的数据包的能力,但是由于要不断地确认与重发,基于这些协议的通信也会因此变慢,极大地影响了性能。而TCP协议极其复杂、代码量巨大并且充满了各种特例,而且它很难卸载(所谓卸载就是不占用CPU的运行时间),与之相比,InfiniBand技术使用基于信任的、流控制的机制来确保连接的完整性,数据包极少丢失。使用InfiniBand技术,除非确认接收缓存具备足够的空间,否则不会传送数据。接受方在数据传输完毕之后,返回信用来标示缓存空间的可用性。通过这种办法,InfiniBand技术消除了由于原数据包丢失而带来的重发延迟,从而提升了效率和整体性能。从性价比角度看,40Gbps的infiniband和IOGbps的万兆以太网卡价格相当或更便宜,但其能力远远超过万兆以太网卡,具有卓越的性价比。基于infiniband技术的存储协议是SCSI远程直接内存访问协议(SCSI RDMAProtocol, SRP),该协议是在InfiniBand技术中将SCSI命令进行打包,允许SCSI命令通过RDMA(远程直接内存访问)在不同的系统之间进行通信,实现存储设备共享和RDMA通信服务。另外infiniband技术通过IPoIB技术,实现TCP/IP协议在infiniband网络部署,使得很多基于TCP/IP的应用无需更改代码而享受infiniband网络带给的高带宽低延时的高质量服务。同时,由于infiniband提供超高速带宽和低延时的能力,严重限制了它的扩展能力,一般光纤最大不超过300米,普通铜缆传输只有3-5米。虽然目前infiniband技术有远距离传输的解决方案,但其设备非常昂贵,一般企业用户无法承受,即使是100米的光纤方案,其不佳的稳定性和昂贵的价格也是推广的障碍。目前,infiniband技术主要在高性能计算领域和数据中心内部署较多,其出色的能力得到了广泛认可,但其扩展性,如何走出数据中心,实现企业应用是至今无法解决的问题。
技术实现思路
针对上述问题,本专利技术通过将infiniband的存储技术与虚拟化技术巧妙结合,从而实现以太网用户通过不同网络协议(如ISCSI、NFS、samba、FTP、SFTP等)访问高速的infiniband存储设备。 本专利技术提出了一种基于桥接的无限带宽协议转换方法,用于完成无限带宽网络与以太网之间的通信,包括以下步骤存储服务器通过SCSI协议控制实际物理磁盘组,SRP目标器经初始化后获取SCSI存储设备信息并注册,并且所述存储服务器通过无限带宽网卡以及无限带宽驱动连接云桥中间件从而承载封装的SCSI存储设备信息给所述云桥中间件;云桥中间件通过无限带宽网卡以及无限带宽驱动与所述存储服务器通讯,当所述存储服务器上的SRP目标器初始化结束后,所述云桥中间件上的SRP发起器获取到所述存储服务器上的SCSI存储设备信息,经所述云桥中间件上的虚拟化模块处理后映射为新的SCSI存储信息并注册到ISCSI目标器上,同时所述云桥中间件通过TCP/IP协议和以太网网卡承载封装的SCSI存储信息给客户端;所述客户端的ISCSI发起器通过以太网获取云桥中间件上的SCSI存储设备信息并映射给上层文件系统和应用程序。本专利技术还提出了一种基于桥接的无限带宽协议转换系统,所述系统包括客户端、云桥中间件以及存储服务器,所述存储服务器通过无限带宽网络连接所述云桥中间件,所述客户端通过以太网络连接所述云桥中间件,其特征在于所述存储服务器通过SRP协议对外映射逻辑单元号;所述云桥中间件的磁盘控制器模块将所述逻辑单元号封装成系统识别的物理盘,通过云桥中间件的多个物理盘管理组管理所述物理盘;在云桥中间件中的云桥逻辑卷控制器的控制下,将所述物理盘管理组整合,为用户划分并生成虚拟磁盘;所述虚拟磁盘通过ISCSI协议映射给所述客户端使用。进一步,所述存储服务器和云桥中间件采用Linux操作系统,所述客户端采用Windows操作系统。本专利技术所提出的云桥中间件具有以下优势 (1)架构优势,其后端是infiniband架构的高速存储,通过云桥中间件的资源整合后为前端客户端提供高速以太网(千兆或万兆)或infiniband网络接入能力; (2)技术优势,其实现infiniband和以太网协议转换能力,通过存储虚拟化技术实现后端存储资源整合、按需分配、在线扩容、多级缓存和RDMA ; (3)安全保障,系统可以实现主备双平面架构,系统实现存储服务器与云桥中间件上1+1数据备份,云桥中间件及存储服务器实现HA高可用性; (4)本专利技术的云桥中间件具有通用兼容性,即插即用,客户端适用主流的windows平台和Iinux平台。本专利技术的方法及装置可广泛用于高性能科学计算、视频监控、智能交通和数字媒体等领域,对大数据应用场景提供存储、处理等。附图说明图I为协议转换系统的协议转换图。图2为包括客户端、云桥中间件以及存储服务器的系统的逻辑架构图。图3为云桥中间件的简化模型。图4为云桥虚拟化前端的结构图。图5为云桥虚拟化后端的结构图。具体实施例方式以下结合附图对本专利技术的原理和特征进行描述,所举实例只用于解释本专利技术,并非用于限定本专利技术的范围。图I示出了协议转换系统的转换图,其中云桥中间件置于存储服务器和客户端之间,存储服务器通过Infiniband网络连接云桥中间件,云桥中间件通过以太网络连接客户 端。存储服务器和云桥中间件可以基于Linux操作系统,客户端可以基于Windows操作系统。在存储服务器端,Linux系统通过SCSI协议控制实际物理磁盘组。SRP目标器(SRPTarget, SRPT)模块初始化,SRP目标器模块获取系统中的SCSI存储设备信息并注册,以使该模块具有处理SCSI命令的能力。SRP目标器的初始化关键就是使SRP目标器与SCSI目标器建立联系,使其具有处理SRP信息、进行SCSI命令的转换、进行IB管理以及提供RDMA通道等服务功能。Infiniband作为底层传输协议承载本文档来自技高网
...

【技术保护点】
一种基于桥接的无限带宽协议转换方法,用于完成无限带宽网络与以太网之间的通信,包括以下步骤:?????存储服务器通过SCSI协议控制实际物理磁盘组,SRP目标器经初始化后获取SCSI存储设备信息并注册,并且所述存储服务器通过无限带宽网卡以及无限带宽驱动连接云桥中间件从而承载封装的SCSI存储设备信息给所述云桥中间件;云桥中间件通过无限带宽网卡以及无限带宽驱动与所述存储服务器通讯,当所述存储服务器上的SRP?目标器初始化结束后,所述云桥中间件上的SRP发起器获取到所述存储服务器上的SCSI存储设备信息,经所述云桥中间件上的虚拟化模块处理后映射为新的SCSI存储信息并注册到ISCSI目标器上,同时所述云桥中间件通过TCP/IP协议和以太网网卡承载封装的SCSI存储信息给客户端;所述客户端的ISCSI发起器通过以太网获取云桥中间件上的SCSI存储设备信息并映射给上层文件系统和应用程序。

【技术特征摘要】
1.一种基于桥接的无限带宽协议转换方法,用于完成无限带宽网络与以太网之间的通信,包括以下步骤存储服务器通过SCSI协议控制实际物理磁盘组,SRP目标器经初始化后获取SCSI存储设备信息并注册,并且所述存储服务器通过无限带宽网卡以及无限带宽驱动连接云桥中间件从而承载封装的SCSI存储设备信息给所述云桥中间件; 云桥中间件通过无限带宽网卡以及无限带宽驱动与所述存储服务器通讯,当所述存储服务器上的SRP目标器初始化结束后,所述云桥中间件上的SRP发起器获取到所述存储服务器上的SCSI存储设备信息,经所述云桥中间件上的虚拟化模块处理后映射为新的SCSI存储信息并注册到ISCSI目标器上,同时所述云桥中间件通过TCP/IP协议和以太网网卡承载封装的SCSI存储信息给客户端; 所述客户端的ISCSI发起器通过以太网...

【专利技术属性】
技术研发人员:储浩乐翔
申请(专利权)人:南京斯坦德通信股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1