【技术实现步骤摘要】
本申请涉及人工智能，尤其涉及计算机视觉、虚拟现实、深度学习、大模型等，可应用于自动驾驶等场景，具体涉及一种预训练模型的生成方法、装置、电子设备和存储介质。
技术介绍
1、在人工智能和机器学习领域，预训练是指在一个较小的、特定任务的数据集上进行微调之前，在一个大数据集上训练一个模型的过程。在自动驾驶、场景理解等三维感知领域，也开始探索从点云中学习通用的表征。
技术实现思路
1、本申请提供了一种预训练模型的生成方法、装置、电子设备和存储介质。具体方案如下：
2、根据本申请的一方面，提供了一种预训练模型的生成方法，包括：
3、获取第一样本点云，并对所述第一样本点云进行体素化处理，得到第一体素；
4、将所述第一体素进行掩码处理，得到第二体素；其中，所述第二体素包括掩码体素；
5、对所述第二体素进行特征提取，得到第一特征向量；
6、根据所述第一特征向量进行预测，得到所述掩码体素的预测几何特征；
7、根据所述预测几何特征及所述掩码体素的真实几何特征之间的差异，对初始预训练模型进行训练，得到预训练模型。
8、根据本申请的另一方面，提供了一种预训练模型的生成装置，包括：
9、第一获取模块，用于获取第一样本点云，并对所述第一样本点云进行体素化处理，得到第一体素；
10、掩码处理模块，用于将所述第一体素进行掩码处理，得到第二体素；其中，所述第二体素包括掩码体素；
11、提取模块，用于
12、第一预测模块，用于根据所述第一特征向量进行预测，得到所述掩码体素的预测几何特征；
13、第一训练模块，用于根据所述预测几何特征及所述掩码体素的真实几何特征之间的差异，对初始预训练模型进行训练，得到预训练模型。
14、根据本申请的另一方面，提供了一种电子设备，包括：
15、至少一个处理器；以及
16、与所述至少一个处理器通信连接的存储器；其中，
17、所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述实施例所述的方法。
18、根据本申请的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据上述实施例所述的方法。
19、根据本申请的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现上述实施例所述方法的步骤。
20、应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种预训练模型的生成方法，包括：
2.如权利要求1所述的方法，其中，所述根据所述第一特征向量进行预测，得到所述掩码体素的预测几何特征，包括：
3.如权利要求2所述的方法，其中，所述根据所述预测几何特征及所述掩码体素的真实几何特征之间的差异，对初始预训练模型进行训练，得到预训练模型，包括：
4.如权利要求3所述的方法，其中，所述根据所述第二特征向量与所述第三特征向量之间的差异，确定第二损失，包括：
5.如权利要求3所述的方法，其中，所述掩码体素为多个，所述根据所述第二特征向量与所述第三特征向量之间的差异，确定第二损失，包括：
6.如权利要求3所述的方法，其中，所述预测几何特征包括所述掩码体素的预测中心点位置坐标、所述掩码体素内每个点的预测法向量及预测曲率，所述根据所述预测几何特征与所述真实几何特征之间的差异，确定第一损失，包括：
7.如权利要求6所述的方法，其中，所述预测几何特征还包括所述掩码体素点内每个点的预测运动状态向量，所述根据所述中心点位置损失、所述法向量损失及所述曲率损失，确定所述第一损失，包括：
8.如权利要求2所述的方法，其中，所述对所述第一特征向量进行解码，得到所述掩码体素的第二特征向量，包括：
9.如权利要求1所述的方法，其中，所述第二体素为多个，所述对所述第二体素进行特征提取，得到第一特征向量，包括：
10.如权利要求9所述的方法，其中，所述第二体素还包括可见体素，所述对每个所述第二体素进行特征提取，得到每个所述第二体素的第三子特征向量，包括：
11.如权利要求1所述的方法，其中，所述将所述第一体素进行掩码处理，得到第二体素，包括：
12.如权利要求11所述的方法，还包括：
13.如权利要求1-12中任一项所述的方法，还包括：
14.如权利要求13所述的方法，还包括：
15.一种预训练模型的生成装置，包括：
16.如权利要求15所述的装置，其中，所述第一预测模块，用于：
17.如权利要求16所述的装置，其中，所述第一训练模块，用于：
18.如权利要求17所述的装置，其中，所述第一训练模块，用于：
19.如权利要求17所述的装置，其中，所述第一训练模块，用于：
20.如权利要求17所述的装置，其中，所述预测几何特征包括所述掩码体素的预测中心点位置坐标、所述掩码体素内每个点的预测法向量及预测曲率，所述第一训练模块，用于：
21.如权利要求20所述的装置，其中，所述预测几何特征还包括所述掩码体素点内每个点的预测运动状态向量，所述第一训练模块，用于：
22.如权利要求16所述的装置，其中，所述第一预测模块，用于：
23.如权利要求15所述的装置，其中，所述第二体素为多个，所述提取模块，用于：
24.如权利要求23所述的装置，其中，所述第二体素还包括可见体素，所述提取模块，用于：
25.如权利要求15所述的装置，其中，所述掩码处理模块，用于：
26.如权利要求25所述的装置，其中，所述掩码处理模块，用于：
27.如权利要求15-26中任一项所述的装置，还包括：
28.如权利要求27所述的装置，还包括：
29.一种电子设备，包括：
30.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-14中任一项所述的方法。
31.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求1-14中任一项所述方法的步骤。
...【技术特征摘要】
1.一种预训练模型的生成方法，包括：
2.如权利要求1所述的方法，其中，所述根据所述第一特征向量进行预测，得到所述掩码体素的预测几何特征，包括：
3.如权利要求2所述的方法，其中，所述根据所述预测几何特征及所述掩码体素的真实几何特征之间的差异，对初始预训练模型进行训练，得到预训练模型，包括：
4.如权利要求3所述的方法，其中，所述根据所述第二特征向量与所述第三特征向量之间的差异，确定第二损失，包括：
5.如权利要求3所述的方法，其中，所述掩码体素为多个，所述根据所述第二特征向量与所述第三特征向量之间的差异，确定第二损失，包括：
6.如权利要求3所述的方法，其中，所述预测几何特征包括所述掩码体素的预测中心点位置坐标、所述掩码体素内每个点的预测法向量及预测曲率，所述根据所述预测几何特征与所述真实几何特征之间的差异，确定第一损失，包括：
7.如权利要求6所述的方法，其中，所述预测几何特征还包括所述掩码体素点内每个点的预测运动状态向量，所述根据所述中心点位置损失、所述法向量损失及所述曲率损失，确定所述第一损失，包括：
8.如权利要求2所述的方法，其中，所述对所述第一特征向量进行解码，得到所述掩码体素的第二特征向量，包括：
9.如权利要求1所述的方法，其中，所述第二体素为多个，所述对所述第二体素进行特征提取，得到第一特征向量，包括：
10.如权利要求9所述的方法，其中，所述第二体素还包括可见体素，所述对每个所述第二体素进行特征提取，得到每个所述第二体素的第三子特征向量，包括：
11.如权利要求1所述的方法，其中，所述将所述第一体素进行掩码处理，得到第二体素，包括：
12.如权利要求11所述的方法，还包括：
13.如权利要求1-12中任一项所述...
【专利技术属性】
技术研发人员：路金诚，王学宽，张伟，谭啸，李莹莹，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。