一种应用中拼接concat降低计算量的方法技术

技术编号:43757904 阅读:21 留言:0更新日期:2024-12-24 16:02
本发明专利技术提供一种应用中拼接concat降低计算量的方法,其中模型公式:x为激活函数前的计算结果;根据模型给的参数m、n和激活函数的参数a1、a2、b1进行量化,包括:S1,每一个输入数据feature有一组参数m和n即参数m<subgt;i</subgt;和n<subgt;i</subgt;;设第i个输入数据feature即有m<subgt;i</subgt;和n<subgt;i</subgt;,初始i=0,输入的feature个数N个;S2,根据参数m<subgt;i</subgt;和n<subgt;i</subgt;,计算clip<subgt;x</subgt;范围为[p,q],其中p=max(n<subgt;i</subgt;,0),q=min(m<subgt;i</subgt;×255+n<subgt;i</subgt;,255),p和q是整数;S3,将m<subgt;i</subgt;×a1(x+b1)+n<subgt;i</subgt;和m<subgt;i</subgt;×a2(x+b1)+n<subgt;i</subgt;变化为ma1(x+b1)+n<subgt;i</subgt;和ma2(x+b1)+n,其中ma1=m<subgt;i</subgt;×a1,ma2=m<subgt;i</subgt;×a2;S4,将p、q,ma1,ma2代入到公式(17),有S5,计算feature中的每个数据计算激活函数处理前的数据x,根据公式(18)计算f<subgt;4</subgt;(x);S6,i+=1且i小于N,重复S2~S5;当i==N时,完成所有的数据处理。

【技术实现步骤摘要】

本专利技术属于神经网络,特别涉及一种应用中拼接concat降低计算量的方法


技术介绍

1、拼接concat是一种预处理或一层的处理,concat实现输入数据的拼接,它将两个或多个输入连接到一个输出(按照给定的维度axis,注意除了规定的维度axis以外,被concat的输入的其他维度的size必须一致)。在拼接时,由于是量化后的输入数据,需要对输入数据进行处理,一般需要乘以一个数,加一个数,再乘以一个数,加一个数,最后进行拼接。

2、concat作为一层处理,设输入的第一组数据为input1,宽高为w1、h1,通道深度为ic1,对每个数据进行预处理相加的偏置为in_offset1,系数为in_scale1;第二组数据为input2,宽高为w2、h2,通道深度为ic2,对每个数据进行预处理相加的偏置为in_offset2,系数为in_scale2。输出时需要的偏置为out_offset,系数为out_scale。concat的方向为沿着深度方向conat。

3、设x1_t为输入数据中的其中一个,对应处理后的数据为y1_i;x2_i为本文档来自技高网...

【技术保护点】

1.一种应用中拼接concat降低计算量的方法,其特征在于,所述拼接concat是将concat参数融合到了上一层计算中,使用的模型表示为下述公式(17),同时需要对参数预处理合成新的参数,所述方法中的模型公式为:

2.根据权利要求1所述的一种应用中拼接concat降低计算量的方法,其特征在于,所述模型公式(17)是由以下步骤方法获得:在拼接concat中,对每组中的每个数据进行预处理,即表示为公式(4):

3.根据权利要求1所述的一种应用中拼接concat降低计算量的方法,其特征在于,所述降低计算量的方法,在卷积的量化中,在最后的计算中用乘以scale或是有正负...

【技术特征摘要】

1.一种应用中拼接concat降低计算量的方法,其特征在于,所述拼接concat是将concat参数融合到了上一层计算中,使用的模型表示为下述公式(17),同时需要对参数预处理合成新的参数,所述方法中的模型公式为:

2.根据权利要求1所述的一种应用中拼接concat降低计算量的方法,其特征在于,所述模型公式(17)是由以下步骤方法获得:在拼接concat中,对每组中的每个数据进行预处理,即表示为公式(4):

3.根据权利要求1所述的一种应用中拼接concat降低计算量的方法,其特征在于,所述降低计算量的方法,在卷积的量化中,在最后的计算中用乘以scale或是...

【专利技术属性】
技术研发人员:田凤彬于晓静
申请(专利权)人:北京君正集成电路股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1