基于子流形稀疏卷积神经网络分析空间稀疏数据制造技术

在一个实施例中，一种方法包括：访问多个内容对象；分别为多个内容对象生成多个体素化表示；基于一个或更多个稀疏卷积生成一个或更多个构建块，生成构建块包括基于多个内容对象中每一个的体素化表示来确定关于多个内容对象中的每一个的一个或更多个激活位点，并将一个或更多个稀疏卷积应用于该一个或更多个激活位点；以及基于包括该一个或更多个构建块的卷积网络来训练机器学习模型。

【技术实现步骤摘要】
【国外来华专利技术】基于子流形稀疏卷积神经网络分析空间稀疏数据
本公开总体上涉及在网络环境内使用机器学习来分析具有空间和/或时间结构的数据，特别地涉及用于智能助理(smartassistant)系统的硬件和软件。背景助理系统可以基于用户输入、位置感知和从各种在线来源访问信息(如天气状况、交通拥堵、新闻、股票价格、用户日程、零售价格等)的能力的组合来代表用户提供信息或服务。用户输入可以包括文本(例如，在线聊天)(尤其是在即时消息传递应用或其他应用中的文本)、声音(voice)、图像或它们的组合。助理系统可以基于用户输入来执行礼宾类型的服务(例如，预订晚餐、购买活动门票、安排旅行)或者提供信息。助理系统也可以基于在线信息和事件执行管理或数据处理任务，而无需用户启动或交互。可以由助理系统执行的那些任务的示例可以包括日程管理(例如，对晚餐约会发送用户由于交通状况而要迟到的告警信息，更新双方的日程，以及改变餐馆预订时间)。助理系统可以通过计算设备、应用编程接口(API)、以及用户设备上应用激增(proliferation)的组合来实现。可以包括社交网络网站的社交网络系统本文档来自技高网...

【技术保护点】
1.一种方法，包括由一个或更多个计算系统：/n访问多个内容对象；/n分别为所述多个内容对象生成多个体素化表示；/n基于一个或更多个稀疏卷积来生成一个或更多个构建块，其中生成所述一个或更多个构建块中的每一个包括：/n基于所述多个内容对象中每一个的体素化表示，确定关于所述多个内容对象中的每一个的一个或更多个激活位点；以及/n将所述一个或更多个稀疏卷积应用于所述一个或更多个激活位点；以及/n基于卷积网络训练机器学习模型，其中所述卷积网络包括所述一个或更多个构建块。/n

【技术特征摘要】
【国外来华专利技术】20171117 US 62/587,9851.一种方法，包括由一个或更多个计算系统：
访问多个内容对象；
分别为所述多个内容对象生成多个体素化表示；
基于一个或更多个稀疏卷积来生成一个或更多个构建块，其中生成所述一个或更多个构建块中的每一个包括：
基于所述多个内容对象中每一个的体素化表示，确定关于所述多个内容对象中的每一个的一个或更多个激活位点；以及
将所述一个或更多个稀疏卷积应用于所述一个或更多个激活位点；以及
基于卷积网络训练机器学习模型，其中所述卷积网络包括所述一个或更多个构建块。


2.根据权利要求1所述的方法，其中，所述多个内容对象中的每一个包括包含多个点的三维(3D)点云。


3.根据权利要求2所述的方法，其中，为每个内容对象生成所述体素化表示包括：
为所述3D点云确定一个或更多个体素，其中每个体素包括一个或更多个点。


4.根据权利要求2所述的方法，其中，所述内容对象包括一个或更多个部件，并且其中所述多个点中的一个或更多个点与对应于所述一个或更多个部件之一的部件标签相关联。


5.根据权利要求1所述的方法，其中，所述卷积网络基于三维架构。


6.根据权利要求1所述的方法，其中，所述一个或更多个稀疏卷积中的每一个基于一个或更多个滤波器和一个或更多个步长来将所述一个或更多个激活位点与一个或更多个输出相关。


7.根据权利要求1所述的方法，其中，所述卷积网络包括多个层，每一层包括多个网络块。


8.根据权利要求7所述的方法，其中，训练所述机器学习模型包括：
从所述多个层选择一个或更多个层；
对于每个选定层，在与该层相关联的多个网络块中的至少两个网络块之间插入所述一个或更多个构建块；以及
为每个选定层添加一个或更多个滤波器。


9.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个激活函数应用于所述一个或更多个激活位点。


10.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个批归一化应用于所述一个或更多个激活位点。


11.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个下采样操作应用于所述一个或更多个激活位点，其中每个下采样操作包括池化或跨步卷积中的一种或更多种，并且其中每个池化包括最大池化或平均池化中的一种或更多种。


12.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个反卷积操作应用于所述一个或更多个激活位点。


13.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个上采样操作应用于所述一个或更多个激活位点。


14.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个线性操作应用于所述一个或更多个激活位点。


15.根据权利要求1所述的方法，其中，训练所述机器学习模型包括：
对于所述多个内容对象中的每一个，将一个或更多个softmax操作应用于所述一个或更多个激活位点。


16.根据权利要求1所述的方法，还包括：
生成一个或更多个哈希表和一个或更多个规则手册，其中所述一个或更多个哈希表包括与所述多个内容对象的多个激活位点相关联的位置信息，并且其中所述一个或更多个规则手册包括与所述多个激活位点相关联的多个输入输出对，所述输入输出对是基于所述一个或更多个稀疏卷积来确定的。


17.根据权利要求1所述的方法，还包括：
接收包括三维(3D)点云的查询内容对象，其中所述3D点云包括多个点；以及
基于所述机器学习模型来为所述多个点中的每一个确定部件标签。


18.体现软件的一个或更多个计算机可读非暂时性存储介质，所述软件当被执行时能够操作来：
访问多个内容对象；
分别为所述多个内容对象生成多个体素化表示；
基于一个或更多个稀疏卷积来生成一个或更多个构建块，其中生成所述一个或更多个构建块中的每一个包括：
基于所述多个内容对象中每一个的体素化表示，确定关于所述多个内容对象中的每一个的一个或更多个激活位点；以及
将所述一个或更多个稀疏卷积应用于所述一个或更多个激活位点；以及
基于卷积网络训练机器学习模型，其中所述卷积神经网络包括所述一个或更多个构建块。


19.一种系统，包括：一个或更多个处理器；和耦合到所述处理器的非暂时性存储器，所述存储器包括所述处理器能够执行的指令，所述处理器在执行所述指令时能够操作来：
访问多个内容对象；
分别为所述多个内容对象生成多个体素化表示；
基于一个或更多个稀疏卷积生成一个或更多个构建块，其中生成所述一个或更多个构建块中的每一个包括：
基于所述多个内容对象中每一个的体素化表示，确定关于所述多个内容对象中的每一个的一个或更多个激活位点；以及
将所述一个或更多个稀疏卷积应用于所述一个或更多个激活位点；以及
基于卷积网络训练机器学习模型，其中所述卷积神经网络包括所述一个或更多个构建块。


20.一种方法，特别地用于在助理系统中使用，所述方法用于通过使用户能够在会话中利用用户输入与所述助理系统交互来帮助用户获得信息或服务，从而获得帮助，其中所述用户输入包括声音、文本、图像或视频或它们的任意组合，所述助理系统特别地通过计算设备、应用编程接口(API)、以及用户设备上应用激增的组合来实现，所述方法包括，由一个或更多个计算系统：
访问多个内容对象；
分别为所述多个内容对象生成多个体素化表示；
基于一个或更多个稀疏卷积来生成一个或更多个构建块，其中生成所述一个或更多个构建块中的每一个包括：
基于所述多个内容对象中每一个的体素化表示，确定关于所述多个内容对象中的每一个的一个或更多个激活位点；以及
将所述一个或更多个稀疏卷积应用于所述一个或更多个激活位点；以及
基于卷积网络训练机器学习模型，其中所述卷积网络包括所述一个或更多个构建块。


21.根据权利要求20所述的方法，其中，所述多个内容对象中的每一个包括包含多个点的三维(3D)点云。


22.根据权利要求21所述的方法，其中，为每个内容对象生成所述体素化表示包括：
为所述...

【专利技术属性】
技术研发人员：本杰明·托马斯·格雷厄姆，劳伦修斯·约翰妮·保罗斯·范德马特，马丁·赫尔穆特·恩格尔克，
申请(专利权)人：脸谱公司，
类型：发明
国别省市：美国;US