一种适用于边缘AI计算的指令数据结构及其设计方法技术

本发明专利技术公开了一种适用于边缘AI计算的指令数据结构及其设计方法，属于智能计算技术领域。本发明专利技术的适用于边缘AI计算的指令数据结构，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。该发明专利技术的适用于边缘AI计算的指令数据结构设计合理，并且能够降低数据宽度需求，从而达到提升系统能耗的目的，具有很好的推广应用价值。

An instruction data structure and its design method for edge AI computing

【技术实现步骤摘要】
一种适用于边缘AI计算的指令数据结构及其设计方法
本专利技术涉及智能计算
，具体提供一种适用于边缘AI计算的指令数据结构及其设计方法。
技术介绍
卷积神经网络算法是在人工智能领域中应用最为广泛的算法，广泛应用于安防、自动驾驶、计算机视觉等领域。CNN本质上是一个多层感知机，其成功的原因关键在于它所采用的局部连接和共享权值的方式，一方面减少了的权值的数量使得网络易于优化，另一方面降低了过拟合的风险。CNN是神经网络中的一种，它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显，使图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建过程。各类应用所需智能算法对计算平台的运算能力要求越来越高。以图像类算法为例，性能较好的模型权重参数规模在65M以上，模型的单次前向推理操作数超过了10GOps，诸如VGG-19模型，操作数已经达到40GOps。经过计算，单处理器的理想性能应该满足4-8TOPS。因此，如何提高神经网络的数据传输效率和计算效率，成为AI领域的关键问题。
技术实现思路
本专利技术的技术任务是针对上述存在的问题，提供一种设计合理，并且能够降低数据宽度需求，从而达到提升系统能耗的目的的适用于边缘AI计算的指令数据结构。本专利技术进一步的技术任务是提供一种适用于边缘AI计算的指令数据结构的设计方法。为实现上述目的，本专利技术提供了如下技术方案：一种适用于边缘AI计算的指令数据结构，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。作为优选，所述指令标志字段和数据标志字段为固定长度的字段，长度均为2字节。作为优选，所述指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，保留或对齐位将指令编码进行128bit对齐。作为优选，所述数据荷载包括数据类标识、待计算数据和数据载荷校验。作为优选，所述指令完成标识包括起始位、指令或数据校验和完成标志。一种适用于边缘AI计算的指令数据结构的设计方法，该方法将指令与数据融合一体，使得指令的载入与数据的载入通过相同的通路，其中，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。作为优选，所述指令标志字段和数据标志字段为固定长度的字段，长度均为2字节，指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，保留或对齐位将指令编码进行128bit对齐。作为优选，所述数据荷载包括数据类标识、待计算数据和数据载荷校验；指令完成标识包括起始位、指令或数据校验和完成标志。与现有技术相比，本专利技术的适用于边缘AI计算的指令数据结构具有以下突出的有益效果：所述适用于边缘AI计算的指令数据结构将指令与数据采用合理的格式融合一体，使得指令的载入与数据的载入通过相同的通路，降低数据带宽需求，从而达到提升系统能耗的目的，具有良好的推广应用价值。附图说明图1是本专利技术所述适用于边缘AI计算的指令数据结构的指令数据结构示意图；图2是本专利技术所述适用于边缘AI计算的指令数据结构的指令数据结构的指令编码部分结构示意图；图3是本专利技术所述适用于边缘AI计算的指令数据结构的指令数据结构的数据载荷部分结构示意图；图4是本专利技术所述适用于边缘AI计算的指令数据结构的指令数据结构的指令完成标识结构示意图。具体实施方式下面将结合附图和实施例，对本专利技术的适用于边缘AI计算的指令数据结构及其设计方法作进一步详细说明。实施例如图1所示，本专利技术的适用于边缘AI计算的指令数据结构，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。指令标志字段和数据标志字段为固定长度的字段，长度均为2字节。如图2所示，指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，指令参数1、指令参数2、指令参数3和指令参数4。保留或对齐位将指令编码进行128bit对齐。如图3所示，数据荷载包括数据类标识、待计算数据和数据载荷校验。如图4所示，指令完成标识包括起始位、指令或数据校验和完成标志。本专利技术的适用于边缘AI计算的指令数据结构的设计方法，该方法将指令与数据融合一体，使得指令的载入与数据的载入通过相同的通路，其中，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。指令标志字段和数据标志字段为固定长度的字段，长度均为2字节，指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，保留或对齐位将指令编码进行128bit对齐。数据荷载包括数据类标识、待计算数据和数据载荷校验；指令完成标识包括起始位、指令或数据校验和完成标志。以上所述的实施例，只是本专利技术较优选的具体实施方式，本领域的技术人员在本专利技术技术方案范围内进行的通常变化和替换都应包含在本专利技术的保护范围内。本文档来自技高网...

【技术保护点】
1.一种适用于边缘AI计算的指令数据结构，其特征在于：指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。/n

【技术特征摘要】
1.一种适用于边缘AI计算的指令数据结构，其特征在于：指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。


2.根据权利要求1所述的适用于边缘AI计算的指令数据结构，其特征在于：所述指令标志字段和数据标志字段为固定长度的字段，长度均为2字节。


3.根据权利要求2所述的适用于边缘AI计算的指令数据结构，其特征在于：所述指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，保留或对齐位将指令编码进行128bit对齐。


4.根据权利要求3所述的适用于边缘AI计算的指令数据结构，其特征在于：所述数据荷载包括数据类标识、待计算数据和数据载荷校验。


5.根据权利要求4所述的适用于边缘AI计算的指令数据结构，其特征在于：所述指令完成标识包括...

【专利技术属性】
技术研发人员：姜凯，李朋，赵鑫鑫，
申请(专利权)人：山东浪潮人工智能研究院有限公司，
类型：发明
国别省市：山东;37