System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于NPU卷积运算核的功能安全校验方法、装置、介质及终端制造方法及图纸_技高网

基于NPU卷积运算核的功能安全校验方法、装置、介质及终端制造方法及图纸

技术编号:41185006 阅读:2 留言:0更新日期:2024-05-07 22:17
本申请提供基于NPU卷积运算核的功能安全校验方法、装置、终端及介质,通过将队列中所有数据累加且与原始数据进行相同的卷积操作,最后将原始数据经过卷积的结果累加后和校验和数据卷积后的结果进行比较的方式来简化数据校验部分的逻辑。本发明专利技术通过在NPU中设置额外校验和通道的逻辑单元的方式提高了校验过程的并行度,在充分利用了已有硬件的前提下,还减少了每个运算和中乘加器的资源需求,从而以更小的开销及功耗实现了与现有的NPU卷积运算核的功能安全校验。

【技术实现步骤摘要】

本申请涉及神经网络处理器领域,特别是涉及基于npu卷积运算核的功能安全校验方法、装置、介质及终端。


技术介绍

1、npu(neural-network processing unit)神经网络处理器一种专门设计用于处理人工智能工作负载的处理器。它是人工智能领域的关键技术之一,能够加速深度学习、机器学习和计算机视觉等任务的执行速度。

2、功能安全(functional safety,fusa)是iso26262定义的一种功能安全标准,目的是防范因电力电子系统的故障行为产生的危害风险。功能安全卷积运算核通常用于传感器数据的处理、故障检测、故障诊断和系统监控等方面。这些卷积运算核通常需要经过严格的校验和验证,以确保其在各种情况下都能够可靠地工作,并且不会引入潜在的安全风险。

3、现有技术中,为了保证功能安全卷积运算核的功能正确性,常采用的方法为复制策略,即通过将所有卷积运算核数据处理的关键逻辑复制,然后比较原始部分和复制部分的输出结果,若有不一致的情况则上报错误。其中,复制策略包括将整个卷积核完全复制和将npu内核中的组合逻辑完全复制的方法。图1展示将整个卷积核完全复制的校验策略,图2展示了将npu内核中的组合逻辑完全复制的校验策略。以上两种方法均采用将乘加器逻辑完全复制一份作为校对乘加器,再将数据分别送入原乘加器和校对乘加器中进行比较,若不相等即证明功能故障或数据错误。

4、然而复制策略存在的弊端在于,复制策略中至少需将原本的乘加器逻辑完全复制一份作为校对乘加器,因此需使用两倍的逻辑门与寄存器,此外若需提升性能需要增加每个时钟周期处理的图像数据的并行度,也需要对原乘加器和校验乘加器的数量进行线性增加,从而大大提升了面积开销。另外,乘加器是卷积运算核当中功耗较高的部分,因此芯片的功耗也会随着面积的翻倍而成倍增加,从而限制npu上所加载的应用程序的性能。


技术实现思路

1、鉴于以上所述现有技术的缺点,本申请的目的在于提供基于npu卷积运算核的功能安全校验方法、装置、介质及终端,用于解决现有功能安全卷积运算核校验的整体或部分复制策略中存在的面积开销大,功耗高的问题。

2、为实现上述目的及其他相关目的,本申请的第一方面提供一种基于npu卷积运算核的功能安全校验方法,包括:接收原始图像并对原始图像进行预处理,以生成待卷积图像;将所述待卷积图像输入至对应的卷积核中执行卷积操作,以生成功能安全待验证结果;基于所述待卷积图像生成额外校验和通道,并对所述待卷积图像及额外校验和通道执行卷积操作,以生成功能安全参照结果;将所述功能安全待验证结果与所述功能安全参照结果进行比较,若比较结果不一致,则执行中断操作。

3、于本申请的第一方面的一些实施例中,所述将待卷积图像输入至对应的卷积核中执行卷积操作的过程包括:每次从所述待卷积图像中提取若干条图像队列,每条图像队列包含预设数量的数据通道;基于当前卷积核,对每条图像队列中的每个数据通道执行卷积操作,以得到每条图像队列所对应的卷积队列;将所有卷积队列进行累加,以生成功能安全待验证结果。

4、于本申请的第一方面的一些实施例中,所述生成额外校验和通道的过程包括:每次从所述待卷积图像中提取若干条图像队列,每条图像队列包含预设数量的数据通道;将每条校验队列中所包含的所述校验数据通道相加,以生成额外校验和通道。

5、于本申请的第一方面的一些实施例中,对所述待卷积图像和额外校验和通道执行校验卷积操作的过程包括:将所述额外校验和通道拆分为与所述校验数据通道位宽一致的若干额外校验和子通道,并将每条校验队列与对应的若干额外校验和子通道合并,以生成更新后校验队列;对每条更新后校验队列执行卷积操作,以得到多条校验卷积队列;将所述多条校验卷积队列进行累加,以生成功能安全验证结果。

6、于本申请的第一方面的一些实施例中,对原始图像进行预处理并生成待卷积图像的过程包括:将所述原始图像执行二维图像切片操作,以生成多张二维子图像,将每张二维子图像分别作为所述待卷积图像发送至对应的卷积核中以执行功能安全校验操作。

7、于本申请的第一方面的一些实施例中,将所述功能安全待验证结果与所述功能安全参照结果进行比较的过程包括:从多个卷积核中获取与其所对应的安全待验证结果与功能安全参照结果;将每个卷积核的安全待验证结果与其所对应的功能安全参照结果进行一一对照的比较。

8、于本申请的第一方面的一些实施例中,所述卷积操作的过程包括:按照从左至右、从上至下、从前至后的方式从当前卷积模型中依次提取出若干权重系数;将提取出的若干权重系数输入至对应的数据通道和额外校验和通道中进行并行的卷积计算。

9、为实现上述目的及其他相关目的,本申请的第二方面提供一种基于npu卷积运算核的功能安全校验装置。包括:数据接收及预处理模块:用于接收原始图像并对原始图像进行预处理,以生成待卷积图像;待验证卷积模块:用于将所述待卷积图像输入至对应的卷积核中执行卷积操作,以生成功能安全待验证结果;参照卷积模块:用于基于所述待卷积图像生成额外校验和通道,并对所述待卷积图像及额外校验和通道执行卷积操作,以生成功能安全参照结果;卷积控制模块:用于控制所述待验证卷积模块和所述参照卷积模块执行对应的卷积操作;判别模块:用于将所述功能安全待验证结果与所述功能安全参照结果进行比较,若比较结果不一致,则执行中断操作。

10、为实现上述目的及其他相关目的,本申请的第三方面提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现所述基于npu卷积运算核的功能安全校验方法。

11、为实现上述目的及其他相关目的,本申请的第四方面提供一种电子终端,包括:处理器及存储器;所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述终端执行所述基于npu卷积运算核的功能安全校验方法。

12、如上所述,本申请涉及的神经网络处理器领域,特别是涉及基于npu卷积运算核的功能安全校验方法、装置、介质及终端。具有以下有益效果:本技术方案通过将队列中所有数据累加且与原始数据进行相同的卷积操作,最后将原始数据经过卷积的结果累加后和校验和数据卷积后的结果进行比较的方式来简化数据校验部分的逻辑。通过在npu中设置额外校验和通道的逻辑单元的方式提高了校验过程的并行度,在充分利用了已有硬件的前提下,还减少了每个运算和中乘加器的资源需求,从而以更小的开销及功耗实现了与现有的npu卷积运算核的功能安全校验。

本文档来自技高网...

【技术保护点】

1.一种基于NPU卷积运算核的功能安全校验方法,其特征在于,包括:

2.根据权利要求1所述的基于NPU卷积运算核的功能安全校验方法,其特征在于,所述将待卷积图像输入至对应的卷积核中执行卷积操作的过程包括:

3.根据权利要求1所述的基于NPU卷积运算核的功能安全校验方法,其特征在于,所述生成额外校验和通道的过程包括:

4.根据权利要求3所述的基于NPU卷积运算核的功能安全校验方法,其特征在于,对所述待卷积图像和额外校验和通道执行校验卷积操作的过程包括:

5.根据权利要求1所述的基于NPU卷积运算核的功能安全校验方法,其特征在于,对原始图像进行预处理并生成待卷积图像的过程包括:将所述原始图像执行二维图像切片操作,以生成多张二维子图像,将每张二维子图像分别作为所述待卷积图像发送至对应的卷积核中以执行功能安全校验操作。

6.根据权利要求1所述的基于NPU卷积运算核的功能安全校验方法,其特征在于,将所述功能安全待验证结果与所述功能安全参照结果进行比较的过程包括:

7.根据权利要求1至6中任一项所述的基于NPU卷积运算核的功能安全校验方法,其特征在于,所述卷积操作的过程包括:

8.一种基于NPU卷积运算核的功能安全校验装置,其特征在于,包括:

9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述基于NPU卷积运算核的功能安全校验方法。

10.一种电子终端,其特征在于,包括:处理器及存储器;

...

【技术特征摘要】

1.一种基于npu卷积运算核的功能安全校验方法,其特征在于,包括:

2.根据权利要求1所述的基于npu卷积运算核的功能安全校验方法,其特征在于,所述将待卷积图像输入至对应的卷积核中执行卷积操作的过程包括:

3.根据权利要求1所述的基于npu卷积运算核的功能安全校验方法,其特征在于,所述生成额外校验和通道的过程包括:

4.根据权利要求3所述的基于npu卷积运算核的功能安全校验方法,其特征在于,对所述待卷积图像和额外校验和通道执行校验卷积操作的过程包括:

5.根据权利要求1所述的基于npu卷积运算核的功能安全校验方法,其特征在于,对原始图像进行预处理并生成待卷积图像的过程包括:将所述原始图像执行二维图像切片操作,以生成多张二维子图像,...

【专利技术属性】
技术研发人员:乔志正罗文杰吴雪松姚轲迪樊鹏竺加毅
申请(专利权)人:芯原微电子上海股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1