一种数据传输的系统、方法以及网络设备技术方案

技术编号:35087982 阅读:16 留言:0更新日期:2022-10-01 16:42
公开了一种数据传输系统,该系统包括:网络设备和主机。网络设备,用于从主机获取第一存储空间内的数据。网络设备,还用于对获取的第一存储空间内的数据进行冗余计算,生成冗余数据,并保存冗余数据到网络设备。网络设备,还用于从主机再次获取第一存储空间内的数据,并发送冗余数据和再次获取的第一存储空间内的数据。通过该技术方案可以不用将获取的数据和冗余数据都保存到网络设备中,而是只用保存冗余数据到网络设备中,从而提升系统冗余备份方案中网络设备内存资源的使用效率,节约了内存资源。资源。资源。

【技术实现步骤摘要】
一种数据传输的系统、方法以及网络设备


[0001]本申请涉及数据传输领域,尤其涉及网络数据传输。

技术介绍

[0002]在分布式存储系统中,数据会被分散保存到多个存储节点,可以实现对数据的高速并发访问,获得高性能,也可以获得更好的可靠性。例如,为了保证数据可靠性,通常采用纠删码(Erasure Code,EC)计算的方式,对M个数据块进行EC计算,生成N个冗余的块。它们通常保存在不同的存储节点上,M个数据块中同时损坏不超过N个数据块,都能准确恢复数据,称之为M+N EC计算。
[0003]另外,为了保证数据的正确性,会引入数据完整性字段(Data Integrity Field,DIF)技术,对数据进行DIF校验,防止数据被篡改后引起安全问题。
[0004]现有技术方案中,数据先搬移到卸载卡的处理器上,进行EC计算,将该数据和EC计算结果保存到与处理器相连的内存中,然后发送到目的端。该方案带来的问题是增加了卸载卡的内存资源消耗。

技术实现思路

[0005]本申请提供了一种数据传输的系统、方法、网络设备以及计算机设备,用于提升系统冗余备份方案中网络设备内存资源的使用效率,节约了内存资源。
[0006]第一方面,本申请提供了一种数据传输系统,系统包括:网络设备和主机;
[0007]网络设备,用于从主机获取第一存储空间内的数据;
[0008]网络设备,还用于对获取的第一存储空间内的数据进行冗余计算,生成冗余数据,并保存冗余数据到网络设备;
[0009]网络设备,还用于从主机再次获取第一存储空间内的数据,并发送冗余数据和再次获取的第一存储空间内的数据。
[0010]通过该技术方案,在冗余计算完成之后,将冗余数据保存到网络设备中,而不用讲第一存储空间内的数据保存到网络设备中。因此可以大大降低网络设备的内存资源的消耗,节约了内存资源,提升了数据传输过程中网络设备内存资源的使用效率。
[0011]一种可能的实现方式中,发送冗余数据和再次获取的第一存储空间内的数据包括:
[0012]网络设备对获取的第一存储空间内的数据进行数据校验,获得第一校验数据;
[0013]网络设备对再次获取的第一存储空间内的数据进行数据校验,获得第二校验数据;
[0014]当第一校验数据和第二校验数据相同的时候,网络设备发送冗余数据和再次获取的第一存储空间内的数据。
[0015]通过该技术方案,可以保证两次获取到的第一存储空间内的数据是一致的。保证了数据传输过程中的可靠性和安全性。
[0016]一种可能的实现方式中,数据校验,包括:数据完整性字段DIF校验和数据循环冗余码校验CRC。
[0017]一种可能的实现方式中,冗余计算,包括:纠错码EC计算。
[0018]一种可能的实现方式中,发送冗余数据和再次获取的第一存储空间内的数据,包括:根据冗余数据和再次获取的第一存储空间内的数据生成报文,发送报文。
[0019]一种可能的实现方式中,获取第一存储空间内的数据,包括:
[0020]通过直接内存访问DMA方式获取第一存储空间内的数据。
[0021]DMA方式,可以不消耗处理器的资源,而直接获取数据,提升了获取数据的效率。
[0022]第二方面,本申请提供了一种数据传输方法,方法包括:
[0023]获取第一存储空间内的数据;
[0024]对获取的第一存储空间内的数据进行冗余计算,生成冗余数据,并保存冗余数据;
[0025]从主机再次获取第一存储空间内的数据,并发送冗余数据和再次获取的第一存储空间内的数据。
[0026]通过该技术方案,在冗余计算完成之后,将冗余数据保存到网络设备中,而不用讲第一存储空间内的数据保存到网络设备中。因此可以大大降低网络设备的内存资源的消耗,节约了内存资源,提升了数据传输过程中网络设备内存资源的使用效率。
[0027]一种可能的实现方式中,发送冗余数据和再次获取的第一存储空间内的数据包括:
[0028]对获取的第一存储空间内的数据进行数据校验,获得第一校验数据;
[0029]对再次获取的第一存储空间内的数据进行数据校验,获得第二校验数据;
[0030]当第一校验数据和第二校验数据相同的时候,发送冗余数据和再次获取的第一存储空间内的数据。
[0031]通过该技术方案,可以保证两次获取到的第一存储空间内的数据是一致的。保证了数据传输过程中的可靠性和安全性。
[0032]一种可能的实现方式中,数据校验,包括:数据完整性字段DIF校验和数据循环冗余码校验CRC。
[0033]一种可能的实现方式中,对获取的第一存储空间内的数据进行冗余计算,生成冗余数据,包括:对获取的第一存储空间内的数据进行纠错码EC计算,生成冗余数据。
[0034]一种可能的实现方式中,发送冗余数据和再次获取的第一存储空间内的数据,包括:根据冗余数据和再次获取的第一存储空间内的数据生成报文,发送报文。
[0035]一种可能的实现方式中,获取第一存储空间内的数据,包括:
[0036]通过直接内存访问DMA方式获取第一存储空间内的数据。
[0037]DMA方式,可以不消耗处理器的资源,而直接获取数据,提升了获取数据的效率。
[0038]第三方面,本申请提供了一种网络设备,网络设备包括:接收模块、冗余生成模块、存储模块和发送模块;
[0039]接收模块用于获取第一存储空间内的数据;
[0040]冗余生成模块用于对获取的第一存储空间内的数据进行冗余计算,生成冗余数据;
[0041]存储模块用于存储冗余数据;
[0042]接收模块还用于再次获取第一存储空间内的数据;
[0043]发送模块用于发送冗余数据和再次获取的第一存储空间内的数据。
[0044]通过该技术方案,在冗余计算完成之后,将冗余数据保存到网络设备中,而不用讲第一存储空间内的数据保存到网络设备中。因此可以大大降低网络设备的内存资源的消耗,节约了内存资源,提升了数据传输过程中网络设备内存资源的使用效率。
[0045]一种可能的实现方式中,网络设备还包括:校验模块;
[0046]校验模块用于对获取的第一存储空间内的数据进行数据校验,获得第一校验数据;
[0047]校验模块还用于对再次获取的第一存储空间内的数据进行数据校验,获得第二校验数据;
[0048]当第一校验数据和第二校验数据相同的时候,发送模块发送冗余数据和再次获取的第一存储空间内的数据。
[0049]通过该技术方案,可以保证两次获取到的第一存储空间内的数据是一致的。保证了数据传输过程中的可靠性和安全性。
[0050]一种可能的实现方式中,网络设备还包括:校验检查模块;
[0051]校验检查模块用于检查第一校验数据和第二校验数据,将检查结果传递给发送模块。
[0052]一种可能的实现方式中,发送模块用于发送本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据传输系统,其特征在于,所述系统包括:网络设备和主机;所述网络设备,用于从所述主机获取第一存储空间内的数据;所述网络设备,还用于对获取的所述第一存储空间内的数据进行冗余计算,生成冗余数据,并保存所述冗余数据到所述网络设备;所述网络设备,还用于从所述主机再次获取所述第一存储空间内的数据,并发送所述冗余数据和再次获取的所述第一存储空间内的数据。2.根据权利要求1所述的数据传输系统,其特征在于,发送所述冗余数据和再次获取的所述第一存储空间内的数据包括:所述网络设备对所述获取的所述第一存储空间内的数据进行数据校验,获得第一校验数据;所述网络设备对所述再次获取的所述第一存储空间内的数据进行数据校验,获得第二校验数据;当所述第一校验数据和所述第二校验数据相同的时候,所述网络设备发送所述冗余数据和所述再次获取的所述第一存储空间内的数据。3.根据权利要求2所述的数据传输系统,其特征在于,所述数据校验,包括:数据完整性字段DIF校验和数据循环冗余码校验CRC。4.根据权利要求1

3任一所述数据传输系统,其特征在于,所述冗余计算,包括:纠错码EC计算。5.根据权利要求1

4任一所述数据传输系统,其特征在于,所述发送所述冗余数据和再次获取的所述第一存储空间内的数据,包括:根据所述冗余数据和再次获取的所述第一存储空间内的数据生成报文,发送所述报文。6.根据权利要求1

5任一所述数据传输系统,其特征在于,所述获取第一存储空间内的数据,包括:通过直接内存访问DMA方式获取所述第一存储空间内的数据。7.一种数据传输方法,其特征在于,所述方法包括:获取第一存储空间内的数据;对获取的所述第一存储空间内的数据进行冗余计算,生成冗余数据,并保存所述冗余数据;从所述主机再次获取所述第一存储空间内的数据,并发送所述冗余数据和再次获取的所述第一存储空间内的数据。8.根据权利要求7所述的数据传输方法,其特征在于,发送所述冗余数据和再次获取的所述第一存储空间内的数据包括:对所述获取的所述第一存储空间内的数据进行数据校验,获得第一校验数据;对所述再次获取的所述第一存储空间内的数据进行数据校验,获得第二校验数据;当所述第一校验数据和所述第二校验数据相同的时候,发送所述冗余数据和所述再次获取的所述第一存储空间内的数据。9.根据权利要求8所述的数据传输方法,其特征在于,所述数据校验,包括:数据完整性字段DIF校验和数据循环冗余码校验C...

【专利技术属性】
技术研发人员:卢胜文
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1