一种数据传输方法、装置、一种存储系统及设备和介质制造方法及图纸

技术编号:37149429 阅读:13 留言:0更新日期:2023-04-06 22:03
本申请公开了一种数据传输方法、装置、一种存储系统及设备和介质,该方法包括:接收传输请求;确定所述传输请求对应的数据流;将所述数据流分别发送至分布式存储系统中的多个存储节点;其中,所述分布式存储系统包括主存储节点、一个或多个从存储节点。本申请消除了原存储节点间东西向数据拷贝,减少了分布式存储系统中数据拷贝所消耗的资源。储系统中数据拷贝所消耗的资源。储系统中数据拷贝所消耗的资源。

【技术实现步骤摘要】
一种数据传输方法、装置、一种存储系统及设备和介质


[0001]本申请涉及存储
,更具体地说,涉及一种数据传输方法、装置、一种存储系统及一种电子设备和一种计算机可读存储介质。

技术介绍

[0002]分布式存储系统为了保证数据安全,通常需要在集群内部节点间做数据冗余,一份数据通过冗余计算以后,最终集群内部存储的数据实际上会超过原始的一份数据量。在现有技术中,存储架构一般采用主从机制,数据由集群关网接入后先发送到主本,再由主本计算冗余数据转发到从本,冗余数据由主本发送到从本的过程,就是集群内部节点间东西向数据拷贝的过程。在高速存储介质,例如全闪环境下,集群读写性能很高,但伴随高IO(输入/输出,Input/Output)的同时,也产生了大量的集群内部节点间的东西向数据拷贝,极大的消耗网络和CPU(中央处理器,central processing unit)资源。
[0003]因此,如何减少分布式存储系统中数据拷贝所消耗的资源是本领域技术人员需要解决的技术问题。

技术实现思路

[0004]本申请的目的在于提供一种数据传输方法、装置、一种存储系统及一种电子设备和一种计算机可读存储介质,减少了分布式存储系统中数据拷贝所消耗的资源。
[0005]为实现上述目的,本申请提供了一种数据传输方法,应用于网关设备,包括:接收传输请求;确定所述传输请求对应的数据流;将所述数据流分别发送至分布式存储系统中的多个存储节点;其中,所述分布式存储系统包括主存储节点、一个或多个从存储节点。
[0006]其中,将所述数据流分别发送至分布式存储系统中的多个存储节点之前,还包括:对所述数据流进行冗余计算。
[0007]其中,将所述数据流分别发送至分布式存储系统中的多个存储节点,包括:将冗余计算后的数据流分别发送至分布式存储系统中的多个存储节点。
[0008]其中,所述确定所述传输请求对应的数据流,包括:将所述传输请求拆分为数据流和控制流消息。
[0009]其中,将所述数据流分别发送至分布式存储系统中的多个存储节点,包括:通过远程直接数据存取将所述数据流分别发送至分布式存储系统中的多个存储节点。
[0010]其中,所述通过远程直接数据存取将所述数据流分别发送至分布式存储系统中的多个存储节点,包括:通过远程直接数据存取的单边协议将所述数据流分别发送至分布式存储系统中的多个存储节点。
[0011]其中,所述接收传输请求之后,还包括:确定所述传输请求对应的控制流消息。
[0012]其中,所述确定所述传输请求对应的控制流消息,包括:将所述传输请求拆分为数据流和控制流消息。
[0013]其中,所述确定所述传输请求对应的控制流消息之后,还包括:将所述控制流消息发送至所述分布式存储系统中的主存储节点,以便所述主存储节点将所述控制流消息转发至所述分布式存储系统中的从存储节点。
[0014]为实现上述目的,本申请提供了一种数据传输方法,应用于分布式存储系统中的主存储节点,包括:从网关设备拉取数据流;其中,所述网关设备当接收到传输请求时,将所述传输请求拆分为数据流和控制流消息;从所述网关设备获取所述控制流消息,并将所述控制流消息转发至所述分布式存储系统中的从存储节点。
[0015]其中,所述从网关设备拉取数据流,包括:通过远程直接数据存取的单边协议从网关设备拉取数据流。
[0016]为实现上述目的,本申请提供了一种数据传输方法,应用于分布式存储系统中的从存储节点,包括:从网关设备拉取数据流;其中,所述网关设备当接收到传输请求时,将所述传输请求拆分为数据流和控制流消息,并将所述控制流消息发送至所述分布式存储系统中的主存储节点;接收所述分布式存储系统中的主存储节点发送的所述控制流消息。
[0017]其中,所述从网关设备拉取数据流,包括:通过远程直接数据存取的单边协议从网关设备拉取数据流。
[0018]为实现上述目的,本申请提供了一种数据传输装置,应用于网关设备,包括:第一接收模块,用于接收传输请求;第一确定模块,用于确定所述传输请求对应的数据流;第一发送模块,用于将所述数据流分别发送至分布式存储系统中的多个存储节点;其中,所述分布式存储系统包括主存储节点、一个或多个从存储节点。
[0019]其中,还包括:计算模块,用于对所述数据流进行冗余计算。
[0020]其中,所述第一发送模块具体用于:将冗余计算后的数据流分别发送至分布式存储系统中的多个存储节点。
[0021]其中,所述第一确定模块具体用于:将所述传输请求拆分为数据流和控制流消息。
[0022]其中,所述第一发送模块具体用于:通过远程直接数据存取将所述数据流分别发送至分布式存储系统中的多个存储节点。
[0023]其中,所述第一发送模块具体用于:通过远程直接数据存取的单边协议将所述数据流分别发送至分布式存储系统中的多个存储节点。
[0024]其中,还包括:第二确定模块,用于确定所述传输请求对应的控制流消息。
[0025]其中,所述第二确定模块具体用于:将所述传输请求拆分为数据流和控制流消息。
[0026]其中,还包括:第二发送模块,用于将所述控制流消息发送至所述分布式存储系统中的主存储节点,以便所述主存储节点将所述控制流消息转发至所述分布式存储系统中的从存储节点。
[0027]为实现上述目的,本申请提供了一种数据传输装置,应用于分布式存储系统中的主存储节点,包括:第一拉取模块,用于从网关设备拉取数据流;其中,所述网关设备当接收到传输请求时,将所述传输请求拆分为数据流和控制流消息;转发模块,用于从所述网关设备获取所述控制流消息,并将所述控制流消息转发至所述分布式存储系统中的从存储节点。
[0028]其中,所述第一拉取模块具体用于:通过远程直接数据存取的单边协议从网关设备拉取数据流。
[0029]为实现上述目的,本申请提供了一种数据传输装置,应用于分布式存储系统中的从存储节点,包括:第二拉取模块,用于从网关设备拉取数据流;其中,所述网关设备当接收到传输请求时,将所述传输请求拆分为数据流和控制流消息,并将所述控制流消息发送至所述分布式存储系统中的主存储节点;第二接收模块,用于接收所述分布式存储系统中的主存储节点发送的所述控制流消息。
[0030]其中,所述第二拉取模块具体用于:通过远程直接数据存取的单边协议从网关设备拉取数据流。
[0031]为实现上述目的,本申请提供了一种电子设备,包括:存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现如上述数据传输方法的步骤。
[0032]为实现上述目的,本申请提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述数据传输方法的步骤。
[0033]为实现上述目的,本申请提供了一种存储系统,包括网关设备、主存储节点、一个或多个从存储节点;所述网关设备,用于接收传输请求,并将所述传输请求对应的数据流分别发送至本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据传输方法,其特征在于,应用于网关设备,包括:接收传输请求;确定所述传输请求对应的数据流;将所述数据流分别发送至分布式存储系统中的多个存储节点;其中,所述分布式存储系统包括主存储节点、一个或多个从存储节点。2.根据权利要求1所述数据传输方法,其特征在于,将所述数据流分别发送至分布式存储系统中的多个存储节点之前,还包括:对所述数据流进行冗余计算。3.根据权利要求1所述数据传输方法,其特征在于,将所述数据流分别发送至分布式存储系统中的多个存储节点,包括:将冗余计算后的数据流分别发送至分布式存储系统中的多个存储节点。4.根据权利要求1所述数据传输方法,其特征在于,所述确定所述传输请求对应的数据流,包括:将所述传输请求拆分为数据流和控制流消息。5.根据权利要求1所述数据传输方法,其特征在于,将所述数据流分别发送至分布式存储系统中的多个存储节点,包括:通过远程直接数据存取将所述数据流分别发送至分布式存储系统中的多个存储节点。6.根据权利要求5所述数据传输方法,其特征在于,所述通过远程直接数据存取将所述数据流分别发送至分布式存储系统中的多个存储节点,包括:通过远程直接数据存取的单边协议将所述数据流分别发送至分布式存储系统中的多个存储节点。7.根据权利要求1所述数据传输方法,其特征在于,所述接收传输请求之后,还包括:确定所述传输请求对应的控制流消息。8.根据权利要求7所述数据传输方法,其特征在于,所述确定所述传输请求对应的控制流消息,包括:将所述传输请求拆分为数据流和控制流消息。9.根据权利要求7所述数据传输方法,其特征在于,所述确定所述传输请求对应的控制流消息之后,还包括:将所述控制流消息发送至所述分布式存储系统中的主存储节点,以便所述主存储节点将所述控制流消息转发至所述分布式存储系统中的从存储节点。10.一种数据传输方法,其特征在于,应用于分布式存储系统中的主存储节点,包括:从网关设备拉取数据流;其中,所述网关设备当接收到传输请求时,将所述传输请求拆分为数据流和控制流消息;从所述网关设备获取所述控制流消息,并将所述控制流消息转发至所述分布式存储系统中的从存储节点。11.根据权利要求10所述数据传输方法,其特征在于,所述从网关设备拉取数据流,包括:通过远程直接数据存取的单边协议从网关设备拉取数据流。12.一种数据传输方法,其特征在于,应用于分布式存储系统中的从存储节...

【专利技术属性】
技术研发人员:于鲁宪张在贵李雪生
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1