System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于矩阵加权低秩分解的车端模型轻量化方法技术_技高网

基于矩阵加权低秩分解的车端模型轻量化方法技术

技术编号:41227997 阅读:6 留言:0更新日期:2024-05-09 23:45
本发明专利技术公开了基于矩阵加权低秩分解的车端模型轻量化方法,涉及车端模型技术领域。本发明专利技术提出对车端模型进行低秩分解,保持模型性能的同时,降低模型大小,便于离线部署,避免由云端模型传输延迟导致的危险,且提出在参数矩阵加权分解中,加入权重矩阵,通过权重权矩阵来更准确的拟合原有模型的性能,且在原始模型加权低秩分解过程中,通过分析原始模型参数矩阵中对于当前任务有着显著影响的参数,调整加权矩阵,减小原始模型分解后的性能下降。

【技术实现步骤摘要】

本专利技术涉及车端模型,具体为基于矩阵加权低秩分解的车端模型轻量化方法


技术介绍

1、当前硬件算力的快速发展带来了人工智能的高性能的同时,也扩大了模型大小。传统车辆上的嵌入式系统通常具有有限的计算资源、内存和能源。目前的深度学习模型在这些受限的环境中可能过于庞大,难以满足实时性能和资源消耗的要求。且由于车辆在行驶中,许多任务,如自动驾驶、实时感知和决策,对于模型的快速响应至关重要。当前高性能的大模型在许多智能驾驶上都取得了不错的效果,但由于规模较大,难以在车端离线部署,只能通过远程访问的形式进行决策,大大增加了时间成本,反而增加了行车过程的安全隐患。

2、在已有的专利中,有对车端模型迁移方法的描述,如专利202310147702.1,其提供了一种自动驾驶感知模型的迁移方法,通过将训练的感知模型进行知识迁移,以形成车端模型。

3、随着深度学习、自动驾驶及新能源汽车的飞速发展,越来越多的模型需要在车载端运行,然而,随着网络层数的不断加深,目标检测模型变得越来越复杂,需求的计算量也在不断增加,使得模型很难在车载端运行,同时模型检测的精度和速度之间也难以达到平衡。上述的车端模型虽然准确度高,但是模型较大,不利于车端离线部署和广泛应用,因此需要对以上问题提出一种新的解决方案。


技术实现思路

1、本专利技术的目的在于提供基于矩阵加权低秩分解的车端模型轻量化方法,通过模型轻量化的方法,能使得高性能的大模型也能在较低配置的车辆上运行,辅助驾驶人进行更加安全的驾驶,提升驾驶体验。

2、为实现上述目的,本专利技术提供如下技术方案:基于矩阵加权低秩分解的车端模型轻量化方法,至少包括以下步骤:

3、步骤一:通过测试车辆在真实路段上行驶,通过测试车辆上的传感器获取数据,并对获取的数据进行筛选和预处理,写入服务器的数据库对应表中,在服务器中,选择合适的模型进行训练,并从数据库中查询训练数据文件路径进行训练,并通过读取事先输入的统计标签加快训练速度,根据3d帧连续帧数据训练出原始模型,并进入下一步骤;

4、步骤二:判断原始模型是否在某项功能上达到预计准确率,若达到,进入下一步骤,若未达到,返回步骤一;

5、步骤三:获取到准确率较好的原始模型后,对原始模型进行加权低秩分解,并进入下一步骤;

6、步骤四:判断分解后的轻量化模型是否能达到预计的准确率,若达到,进入下一步骤,若未达到,返回步骤三,调整矩阵加权低秩分解参数,重新对原始模型参数矩阵进行分解;

7、步骤五:判断分解后的模型是否达到预计模型大小,即为是否小于车机离线部署的模型参数上限,若达到,进入下一步骤,若未达到,返回步骤三,调整矩阵加权低秩分解参数,重新对原始模型参数矩阵进行分解;

8、步骤6:将分解后的模型部署到车端进行验证,并且由测试工程师驾驶测试车辆在封闭路段多次进行模型真实行车测试,并制造特殊事件,所述特殊事件至少包括行人冲出、前车刹车及地面凹陷,将测试结果逐一记录,并进行下一步骤;

9、步骤7:根据模型测试记录,由验收测试工程师以及项目负责人进行评判,判断该模型是否达到预期的效果,若未达到,返回s3,调整矩阵加权低秩分解参数,重新对原始模型参数矩阵进行分解,若达到,则开始准备后续发版工作。

10、优选的,所述通过测试车辆上的传感器获取数据,并对获取的数据进行筛选和预处理,写入服务器的数据库对应表中至少包括以下步骤:

11、通过测试车辆在真实路段上行驶,通过测试车辆上的传感器获取数据;

12、所述传感器获取的数据至少包括车辆摄像头(camera2car)的图片和车辆周边雷达(lidar2car)的点云数据等,由这些数据构成3d连续帧数据;

13、测量车辆获取的3d连续帧数据,由车载数据收集系统提交到服务器;

14、服务器在收到这些数据之后,通过当前集成的预刷模型组到dag流程中,进行该次3d连续帧数据的预刷(预标注),根据筛选条件选出较好的连续帧数据(clip_data),将这些满足条件的25帧图片和对应的25帧点云生成数据json,并将数据拷贝到服务器上的容器(bucket)中;

15、同时,将预刷结果写入数据库表(mongodb)中对应图片标签位置,并统计各个标签的数量写入数据库(mongodb)对应表中。

16、优选的,所述s3的原始模型参数矩阵加权低秩分解的具体步骤如下:

17、对于已经得知的原始模型参数矩阵m,假定m为m*n的矩阵,通过分解可以得到

18、m=u∑v*

19、其中u为m*o的矩阵,v为n*o的矩阵,∑为q*q的对角矩阵diag(η1,η2,η3,…,ηq),其中非零的个数等于m的秩,这时可得到:

20、

21、其中r为矩阵m的秩。通过分析对于当前任务无显著影响的ηx,并将其设为0,便可降低原始模型参数矩阵复杂程度,降低参数量和推理时间。为了在此过程中降低性能的损失,本专利技术提出增加权重矩阵k,这里矩阵k与更新后的∑’结构相同,更快拟合原始模型的性能,这时可得到

22、

23、其中θ>0。通过调整权重矩阵k,减少矩阵降秩后的重要网络参数重叠,从而降低了模型轻量化后的性能下降。原始矩阵加权低秩分解过程如图2所示,其中z为模型参数矩阵轻量化后的秩(z<r)。

24、与现有技术相比,本专利技术的有益效果是:

25、1、本专利技术提出对车端模型进行低秩分解,保持模型性能的同时,降低模型大小,便于离线部署,避免由云端模型传输延迟导致的危险;

26、2、本专利技术提出在参数矩阵加权分解中,加入权重矩阵,通过权重权矩阵来更准确的拟合原有模型的性能;

27、3、本专利技术在原始模型加权低秩分解过程中,通过分析原始模型参数矩阵中对于当前任务有着显著影响的参数,调整加权矩阵,减小原始模型分解后的性能下降。

本文档来自技高网...

【技术保护点】

1.基于矩阵加权低秩分解的车端模型轻量化方法,其特征在于:至少包括以下步骤:

2.根据权利要求1所述的基于矩阵加权低秩分解的车端模型轻量化方法,其特征在于:所述通过测试车辆上的传感器获取数据,并对获取的数据进行筛选和预处理,写入服务器的数据库对应表中至少包括以下步骤:

3.根据权利要求1所述的基于矩阵加权低秩分解的车端模型轻量化方法,其特征在于:所述S3的原始模型参数矩阵加权低秩分解的具体步骤如下:

【技术特征摘要】

1.基于矩阵加权低秩分解的车端模型轻量化方法,其特征在于:至少包括以下步骤:

2.根据权利要求1所述的基于矩阵加权低秩分解的车端模型轻量化方法,其特征在于:所述通过测试车辆上的传感器获取数据,并对获取的...

【专利技术属性】
技术研发人员:邢欣来陈俊良张小川
申请(专利权)人:重庆理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1