【技术实现步骤摘要】
本申请涉及ai，具体涉及参数编码方法、参数解码方法及相关装置。
技术介绍
1、在自动驾驶车辆系统安全运行的场景下，数据完整性的检查非常重要。双倍速率同步动态随机存储器(doubledata rate，ddr)内存通常使用纠错码(error correctingcode，ecc)校验机制。但是深度神经网络(deep neural network，dnn)在自动驾驶的感知系统中应用广泛，且具有数量庞大的参数，自动驾驶业务中大量部署dnn模型，既包括用于处理视觉感知任务的人工智能(artificial intelligence，ai)模型，也包括用于处理激光雷达点云数据的ai模型。这些模型的参数占用了大量自动驾驶计算平台的存储空间。如果使用ecc的编码方式对存储的ai模型的参数的取值进行保护，需要在原有数据位上增加额外的比特位，以存储参数的ecc校验值。
2、在参数的数据量非常大时，ecc校验位的数量也会相应增加。因此，对于参数数量较多的模型，存储其校验位需要使用到大量的资源，对资源的损耗较大。例如对使用inlineecc的数据存储会带来额外的存储资源消耗，同时，数据访问过程会带来额外的带宽资源消耗。此外，不仅是在ai模型的参数存储领域，在其他领域也存在对参数或者变量的取值进行存储、传输过程中资源浪费的问题。
3、因此，如何在利用ecc的编码方式时，尽可能地减少存储过程中对资源的损耗，是本领域技术人员正在研究的热点。
技术实现思路
1、本申请提供了一种参数编码方法
2、第一方面，本申请提供了一种参数编码方法，所述方法包括：
3、确定第一参数的第一取值，其中，所述第一参数包括执行计算操作时所使用的参数，所述第一取值的数据位包括n个比特位，n为大于等于2的整数；
4、基于所述第一参数的第一取值，得到所述第一参数的第二取值，所述第二取值的数据位包括n个比特位，所述n个比特位包括m个比特位，所述m个比特位的值为预设值，m为整数且0＜m＜n；
5、根据所述n个比特位中除所述m个比特位之外的比特位中的数据，计算得到所述第二取值的校验值，所述第二取值的校验值包括m个比特；
6、根据所述第二取值的校验值更新所述第二取值中的所述m个比特位中的所述预设值以得到第三取值，所述第三取值包括n个比特位的数据，所述n个比特位的数据包括所述第二取值的校验值和所述第二取值的n个比特位中除所述m个比特位之外的比特位中的数据。
7、在上述方法中，第一参数的取值包含n个比特位，这n个比特位包含两个部分，分别为m个比特位(可以看作第一部分)和除m个比特位之外的比特位(可以看作第二部分)。在编码时，根据n个比特位中除m个比特位之外的比特位中的数据，计算得到ecc校验位。在存储ecc校验位时，将ecc校验位存储在这m个比特位中。相较于现有技术需要在原有n个比特位上增加额外的比特位而言，本申请的n个比特位里包括的校验位，而并没有增加额外的比特位用以存储ecc校验值。本申请既达到了ecc校验的效果，同时也不占用额外存储空间，能够减少对资源的损耗。
8、此外，本申请对ai模型训练得到的模型参数而言，减少参数存储损耗的效果更加显著。
9、在一种可能的实施方式中，所述方法还包括：存储所述第三取值。
10、可选地，存储指的是缓存或者持久化存储。
11、在另一种可能的实施方式中，所述基于所述第一参数的第一取值，得到所述第一参数的第二取值，包括：
12、将所述第一取值的所述m个比特位的值更新为所述预设值以得到所述第二取值。
13、上述实施方式中提供了一种可能的编码方式(便于区分称为编码方式一)，能够以编码为目的对参数进行量化训练，从而使得参数的取值尽可能缩减到第二部分的存储空间(即除m个比特位之外的比特位)中进行存储。例如以第一取值为整型8位数据格式为例(该8位数据格式从左往右依次可以为s，w(6)，w(5)，w(4)，w(3)，w(2)，w(1)，w(0))，如果第一取值的w(6)的比特位的数据分布得较少，可以直接将w(6)的值置0，然后更新该数据格式；或者如果第一取值的w(6)和w(5)的比特位的数据均分布得较少，可以直接将w(6)和w(5)的值均置0，然后更新该数据格式。
14、在又一种可能的实施方式中，所述第一参数为人工智能ai模型的参数，所述第一取值为经过所述ai模型训练得到的所述第一参数的值；
15、所述m个比特位的值对所述ai模型的精确度的影响值小于预设阈值。
16、上述实施方式中，如果ai模型的精确度(评估模型优劣的一种指标，也可以是其他指标)变化在可以接受的范围内，比如ai模型经过量化之后，其参数的数据格式采用整型8位，而如果把8位数据中的m个比特位直接置零后，待评估的ai模型的精确度的变化值小于预设阈值，则可以直接对第一取值的m个比特位置0。
17、在又一种可能的实施方式中，所述第一参数为ai模型的参数，所述第一取值为经过所述ai模型训练得到的所述第一参数的值，所述基于所述第一参数的第一取值，得到所述第一参数的第二取值，包括：
18、基于所述第一参数的第一取值和参数约束条件，对所述ai模型进行再次训练，得到所述第一参数的所述第二取值，所述第二取值中包括取值为所述预设值的所述m个比特位。
19、上述实施方式中，提供了另一种可能的编码方式(便于区分称为编码方式二)，能够以编码为目的对参数进行量化训练，从而使得参数的取值尽可能缩减到第二部分的存储空间(即除m个比特位之外的比特位)中进行存储。例如可以通过重训练的方式，将第一取值的m个比特位置零，相较于直接置零的方式而言，编码方式二能够保证ai模型的精确度。
20、在又一种可能的实施方式中，所述预设值为0，且所述m个比特位为所述n个比特位中的高位，所述基于所述第一参数的第一取值和参数约束条件，对所述ai模型进行再次训练，得到所述第一参数的所述第二取值，包括：
21、基于所述第一参数的第一取值和所述参数约束条件，通过目标函数对所述ai模型进行再次训练，得到所述第一参数的所述第二取值；
22、其中，所述第一参数通过如下方式表示：wlq，其中，l表示所述第一参数当前在所述ai模型的第l层，q表示所述第一参数为所述ai模型的第l层的第q个参数，1≤l≤l，q＞0，l为所述ai模型中包含的总层数；
23、所述目标函数满足如下算式：其中，p为p范数；
24、所述参数约束条件通过如下公式表示：g(wlq)≤0、wlq≤2n-m-1和wlq≥-2n-m，其中，g为非线性约束条件，所述参数约束条件用于表示所述m个比特位置为0。
25、可选地，f为ai模型进行量化训练的目标函数。进一步的，g可以为ai模型进行量化训练所使用的非线性约束本文档来自技高网...
【技术保护点】
1.一种参数编码方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述基于所述第一参数的第一取值，得到所述第一参数的第二取值，包括：
3.根据权利要求2所述的方法，其特征在于，所述第一参数为人工智能AI模型的参数，所述第一取值为经过所述AI模型训练得到的所述第一参数的值；
4.根据权利要求1所述的方法，其特征在于，所述第一参数为AI模型的参数，所述第一取值为经过所述AI模型训练得到的所述第一参数的值；
5.根据权利要求4所述的方法，其特征在于，所述预设值为0，且所述M个比特位为所述N个比特位中的高位；
6.根据权利要求1-4任一项所述的方法，其特征在于，所述预设值为0。
7.根据权利要求1-4、6中任一项所述的方法，其特征在于，所述M个比特位为所述N个比特位中的高位。
8.根据权利要求1-7任一项所述的方法，其特征在于，所述第二取值还包括符号位，所述符号位位于所述第二取值的数据位之前；
9.根据权利要求1-7任一项所述的方法，其特征在于，所述根据所述N个比特位
10.根据权利要求1-9任一项所述的方法，其特征在于，M＞1，所述方法还包括：
11.根据权利要求10所述的方法，其特征在于，所述方法还包括：
12.根据权利要求1所述的方法，其特征在于，所述确定第一参数的第一取值，包括：
13.一种参数解码方法，其特征在于，所述方法包括：
14.根据权利要求13所述的方法，其特征在于，M>1；
15.根据权利要求13或14所述的方法，其特征在于，所述M个比特位为所述N个比特位中的高位。
16.根据权利要求13-15任一项所述的方法，其特征在于，所述预设值为0。
17.根据权利要求13-16任一项所述的方法，其特征在于，所述第三取值还包括符号位，所述符号位位于所述第三取值的数据位之前；
18.一种参数编码装置，其特征在于，所述编码装置包括用于实现如权利要求1至12任一项所述方法的模块。
19.一种参数解码装置，其特征在于，所述解码装置包括用于实现如权利要求13至17任一项所述方法的模块。
20.一种电子设备，其特征在于，所述电子设备包括处理器；
21.根据权利要求20所述的电子设备，其特征在于，所述电子设备为自动驾驶计算平台。
22.一种车辆，其特征在于，包括权利要求20或21所述的电子设备。
...【技术特征摘要】
1.一种参数编码方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述基于所述第一参数的第一取值，得到所述第一参数的第二取值，包括：
3.根据权利要求2所述的方法，其特征在于，所述第一参数为人工智能ai模型的参数，所述第一取值为经过所述ai模型训练得到的所述第一参数的值；
4.根据权利要求1所述的方法，其特征在于，所述第一参数为ai模型的参数，所述第一取值为经过所述ai模型训练得到的所述第一参数的值；
5.根据权利要求4所述的方法，其特征在于，所述预设值为0，且所述m个比特位为所述n个比特位中的高位；
6.根据权利要求1-4任一项所述的方法，其特征在于，所述预设值为0。
7.根据权利要求1-4、6中任一项所述的方法，其特征在于，所述m个比特位为所述n个比特位中的高位。
8.根据权利要求1-7任一项所述的方法，其特征在于，所述第二取值还包括符号位，所述符号位位于所述第二取值的数据位之前；
9.根据权利要求1-7任一项所述的方法，其特征在于，所述根据所述n个比特位中除所述m个比特位之外的比特位中的数据，计算得到所述第二取值的校验值，包括：
10.根据权利要求1-9任一项所述的方法，其特征在于，...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。