System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于NPU神经网络的纠删编码方法技术_技高网

一种基于NPU神经网络的纠删编码方法技术

技术编号:40671355 阅读:6 留言:0更新日期:2024-03-18 19:07
本发明专利技术涉及数据存储技术领域,公开了一种基于NPU神经网络的纠删编码方法,包括:S1、加载基于NPU的神经网络模型,并获取前端数据流;S2、进行jerasure算法矩阵分解;S3、构建jerasure算法的神经网络模型;S4、数据切片,对原始数据进行4块的数据切片;S5、数据输入到基于NPU的神经网络模型进行前向计算;S6、得到前向计算的结果,对所有结果进行异或,得到m1和m2;S7、对m1和m2的结果进行存储;S8、判断数据流是否结束,若否,则返回步骤S4,若是,则结束整个流程。本发明专利技术将复杂的编码过程从CPU移植到NPU,加快对数据的编码速度,大大减轻CPU的负载,实现对多路数据同时进行编码。

【技术实现步骤摘要】

本专利技术涉及数据存储,特别涉及一种基于npu神经网络的纠删编码方法。


技术介绍

1、纠删码(erasure coding)是一种广泛应用于数据存储和通信系统中的重要技术,旨在提高数据的冗余性、容错性和可靠性。传统的冗余数据备份方法,如镜像和raid(冗余独立磁盘阵列),可以提供一定的容错能力,但它们的效率相对较低,因为它们需要存储额外的副本。


技术实现思路

1、本专利技术提供了一种基于npu神经网络的纠删编码方法,将复杂的编码过程从cpu移植到npu,加快对数据的编码速度,大大减轻cpu的负载,实现对多路数据同时进行编码。

2、本专利技术提供了一种基于npu神经网络的纠删编码方法,将解码过程移植至npu处理,对k4m2编码的完整流程包括:

3、s1、加载基于npu的神经网络模型,并获取数据流;

4、s2、进行jerasure算法矩阵分解;

5、s3、构建jerasure算法的神经网络模型;

6、s4、数据切片,对所述数据流进行4块的数据切片;

7、s5、将所述数据流输入到基于npu的神经网络模型进行前向计算;

8、s6、得到前向计算的结果,对所有结果进行异或,得到m1和m2;

9、s7、对m1和m2的结果进行存储;

10、s8、判断数据流是否结束,若否,则返回步骤s4,若是,则结束整个流程。

11、进一步地,纠删编解码包括:

12、总数据块n=原始数据块k+校验块m,从k个原始数据块中计算出m个校验块,将这k+m个数据块分别存放在k+m个硬盘上;编码过程是从分布矩阵n*kx数据块向量k=(数据块+校验块)向量n的计算,解码过程则涉及到数据块向量k=(丢失m块)分布矩阵的逆矩阵b-1(k*k)x幸存块向量k的计算;

13、算法允许包括原始数据块和校验块在内的任意m个块出现故障,在数据存储过程中对数据进行编码,数据还原的过程则为解码过程。

14、进一步地,jerasure算法包括:

15、采用有限域乘法gf(2^8),根据有限域的乘法规则,两个uint8数字相乘后,最大值仍然不超过255,并且可逆;

16、采用半加法,即异或操作;

17、根据k,m的不同配置,具备相对固定的特殊编码系数,k=4,m=2时,用gf代表有限域编码,用^代表异或操作,公式如下:

18、m1=gf(k1*1)^gf(k2*1)^gf(k3*1)^gf(k4*1)

19、m2=gf(k1*1)^gf(k2*g70)^gf(k3*g143)^gf(k4*g200)。

20、进一步地,纠删编码参数作为模型参数在初始化时定义好,其中m1中kn*1为原始码,只进行异或计算即可,输入为k1、k2、k3、k4四个张量,代表四个512字节的原始码,每个张量的维度为[1,512],因此构建一个m2的神经网络模型包括a、b、c、d为神经网络层,c2的神经网络模型可以分解为以下实现步骤:

21、t1、记a、b、c、d为神经网络层的名称,对应的为输入k1、k2、k3、k4;

22、t2、计算gf(k1*1),乘以1为原始码,因此x1=k1;

23、t3、初始化变换矩阵:定义一个(256,512)的张量参数h256,第一行全部为1,其他全部为0;

24、t4、有限域编码参数g70、g143、g200为[1,256]的常量,对其进行初始化成卷积核参数无需进行训练;

25、t5、计算得到gf(k2*g70),gf(k3*g143),gf(k4*g200);

26、t6、对所有结果进行异或操作得到m2;其中,对所有经过变换过后的结果采用cpu进行异或。

27、本专利技术的有益效果为:

28、npu是一种专门设计用于加速神经网络计算的硬件单元,它可以在处理大规模的数学运算时提供卓越的性能和效率。本专利技术提出基于npu神经网络的纠删编码方法,主要对jerasure算法进行分解,借助npu的并行计算以及矩阵运算能力,将复杂的编码过程从cpu移植到npu,不仅能加快对数据的编码速度,同时能大大减轻cpu的负载,可以实现对多路数据同时进行编码。

本文档来自技高网...

【技术保护点】

1.一种基于NPU神经网络的纠删编码方法,其特征在于,将解码过程移植至NPU处理,对k4m2编码的完整流程包括:

2.根据权利要求1所述的基于NPU神经网络的纠删编码方法,其特征在于,纠删编解码包括:

3.根据权利要求2所述的基于NPU神经网络的纠删编码方法,其特征在于,jerasure算法包括:

4.根据权利要求3所述的基于NPU神经网络的纠删编码方法,其特征在于,纠删编码参数作为模型参数在初始化时定义好,其中m1中kn*1为原始码,只进行异或计算即可,输入为k1、k2、k3、k4四个张量,代表四个512字节的原始码,每个张量的维度为[1,512],因此构建一个m2的神经网络模型包括a、b、c、d为神经网络层,c2的神经网络模型可以分解为以下实现步骤:

【技术特征摘要】

1.一种基于npu神经网络的纠删编码方法,其特征在于,将解码过程移植至npu处理,对k4m2编码的完整流程包括:

2.根据权利要求1所述的基于npu神经网络的纠删编码方法,其特征在于,纠删编解码包括:

3.根据权利要求2所述的基于npu神经网络的纠删编码方法,其特征在于,jerasure算法包括:

4.根据权利要...

【专利技术属性】
技术研发人员:胡胤刘毅林涛睿
申请(专利权)人:深圳市瑞驰信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1