【技术实现步骤摘要】
【国外来华专利技术】表格卷积和加速
[0001]相关申请的交叉引用
[0002]本申请要求于2021年8月19日提交的美国专利申请No.17/407,046的优先权，该美国专利申请要求于2020年8月21日提交的美国临时专利申请No.63/068,891的权益和优先权，这些申请的全部内容通过援引纳入于此。
[0003]引言
[0004]本公开的各方面涉及改进的机器学习处理。
[0005]机器学习一般是产生经训练模型(例如，人工神经网络、树或其他结构)的过程，该经训练模型表示对先验已知的训练数据集合的广义拟合。将经训练模型应用于新数据产生推断，这可被用于获得关于新数据的洞察。在一些情形中，将模型应用于新数据被描述为对新数据“运行推断”。
[0006]由于机器学习的使用激增以实现各种机器学习(或人工智能)任务，因此出现了对更高效地处理机器学习模型数据的需求。例如，“边缘处理”设备(诸如移动设备、常开设备、物联网(IoT)设备等)必须平衡处理能力与功率和封装约束。
[0007]常规情况下低效的一个方面的机器学习处理是在机器学习模型中处理...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种方法，包括：对输入数据执行表格化操作，以生成所述输入数据的表格化表示；以及使用所述输入数据的所述表格化表示来执行卷积操作以生成卷积输出。2.如权利要求1所述的方法，进一步包括：基于确定所述输入数据的稀疏性大于阈值稀疏性值来执行所述表格化操作。3.如权利要求1所述的方法，其中执行卷积操作包括：执行权重张量与所述输入数据的所述表格化表示之间的矩阵乘法以生成所述卷积输出。4.如权利要求1所述的方法，其中，执行表格化操作包括：根据索引规则来填充所述输入数据的所述表格化表示，其中所述索引规则基于所述输入数据的活跃元素与所述输入数据中毗邻所述活跃元素的多个元素之间的关系来定义多个索引值。5.如权利要求1所述的方法，其中，所述卷积输出的稀疏性与所述输入数据的稀疏性相同。6.如权利要求1所述的方法，进一步包括：在执行所述卷积操作之前，从所述输入数据的所述表格化表示中移除活跃点向量分量；以及将所述活跃点向量分量与所述卷积输出求和，以生成卷积层输出。7.如权利要求4所述的方法，进一步包括：在执行所述卷积操作之前，从所述输入数据的所述表格化表示中移除活跃点向量分量；以及基于所述表格化表示来生成多个一维哈希指针列表，其中所述卷积操作包括：将与所述多个一维哈希指针列表中的第一哈希指针列表中的每个指针相关联的输入值乘以基于所述输入值的内核索引的标量权重值；以及将与所述多个一维哈希指针列表中的第二哈希指针列表中的每个指针相关联的加权输入值求和以生成所述卷积输出。8.如权利要求1所述的方法，进一步包括：确定与所述卷积输出相关联的损失值；以及基于所述损失值来更新与机器学习模型的卷积层相关联的多个权重。9.如权利要求1所述的方法，其中所述卷积操作包括深度可分离卷积操作。10.如权利要求1所述的方法，其中所述输入数据包括稀疏图像传感器数据。11.如权利要求1所述的方法，其中所述输入数据包括稀疏的光检测和测距(LiDAR)传感器数据。12.一种处理系统，包括：包括计算机可执行指令的存储器；以及一个或多个处理器，所述一个或多个处理器被配置成执行所述计算机可执行指令并使所述处理系统：对输入数据执行表格化操作，以生成所述输入数据的表格化表示；以及使用所述输入数据的所述表格化表示来执行卷积操作以生成卷积输出。
13.如权利要求12所述的处理系统，其中所述一个或多个处理器被进一步配置成：基于确定所述输入数据的稀疏性大于阈值稀疏性值来执行所述表格化操作。14.如权利要求12所述的处理系统，其中为了执行卷积操作，所述一个或多个处理器被进一步配置成：执行权重张量与所述输入数据的所述表格化表示之间的矩阵乘法以生成所述卷积输出。15.如权利要求12所述的处理系统，其中为了执行表格化操作，所述一个或多个处理器被进一步配置成：根据索引规则来填充所述输入数据的所述表格化表示，其中所述索引规则基于所述输入数据的活跃元素与所述输入数据中毗邻所述活跃元素的多个元素之间的关系来定义多个索引值。16.如权利要求12所述的处理系统，其中，所述卷积输出的稀疏性与所述输入数据的稀疏性相同。17.如权利要求12所述的处理系统，其中，所述一个或多个处理器被进一步配置成：在执行所述卷积操作之前，从所述输入数据的所述表格化表示中移除活跃点向量分量；...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。