一种车载终端模型部署方法、装置、设备及介质制造方法及图纸

本发明专利技术涉及汽车智能座舱技术领域，提供了一种车载终端模型部署方法、装置、设备及介质，方法包括：获取目标模型和测试数据集；根据预先选取的模型推理框架所需的数据格式，对目标模型进行格式转换，得到格式转换后的目标模型；将格式转换后的目标模型传输至车载终端内的模型推理框架，并运行格式转换后的目标模型；将测试数据集输入模型推理框架中，根据测试数据集对目标模型进行模型推理，得到推理结果；将推理结果传输至目标功能模块，以实现在车载终端对目标模型的部署。该方法可以直接将目标算法部署到车载终端中，无需增加单独的AI芯片，可以让车企掌握算法简单、可部署性强的算法部署能力。算法部署能力。算法部署能力。

【技术实现步骤摘要】
一种车载终端模型部署方法、装置、设备及介质


[0001]本申请涉及汽车智能座舱
，具体涉及一种车载终端模型部署方法、装置、设备及介质。

技术介绍

[0002]随着AI(Artificial intelligence:人工智能)视觉技术的发展，通过视觉技术实现的功能不断扩大，在汽车智能座舱
对AI视觉技术的运用也越发广泛。大多数AI是在云端进行运算，但是云端计算具有网络延迟、离线环境无法使用、响应不及时、数据隐私无法保证等问题。
[0003]为了解决上述云端AI计算的问题，目前车企多使用供应商提供的AI芯片和AI算法实现座舱移动终端的AI计算。但是，当车企想要增加新功能时必须依赖供应商进行开发和集成，成本变高，如何在不依赖供应商的前提下将目标算法部署至车载终端内，以及如何降低算法部署成本，是目标亟需解决的问题。

技术实现思路

[0004]鉴于以上所述现有技术的缺点，本申请的目的在于提供一种车载算法部署方法、装置、设备及介质，用于解决现有技术中如何在不依赖供应商的前提下将目标算法部署至车载终端内、降低算法部署成本的问题。
[0005]为实现上述目的及其他相关目的，本申请提供一种车载终端模型部署方法，所述方法包括：
[0006]获取目标模型和测试数据集；
[0007]根据预先选取的模型推理框架所需的数据格式，对所述目标模型进行格式转换，得到格式转换后的目标模型；
[0008]将所述格式转换后的目标模型传输至车载终端内的模型推理框架，并运行所述格式转换后的目标模型；
[0009]将所述测试数据集输入所述模型推理框架中，根据所述测试数据集对所述目标模型进行模型推理，得到推理结果；
[0010]将所述推理结果传输至目标功能模块，以实现在车载终端对所述目标模型的部署。
[0011]于本申请的一实施例中，其特征在于：
[0012]所述目标模型的格式为torch格式；
[0013]所述预先选取的模型推理框架所需的数据格式为tflite格式。
[0014]于本申请的一实施例中，所述将所述格式转换后的目标模型传输至车载终端内的模型推理框架，并运行所述格式转换后的目标模型，包括：
[0015]将所述格式转换后的目标模型传输至所述车载终端的系统中，所述车载终端的系统中预先配置tensorflow
‑
lite架包；
[0016]将所述系统中的目标模型传输至所述模型推理框架中；
[0017]根据所述tensorflow
‑
lite架包中的tensorflow初始化接口，获取并响应tensorflow初始化指令，以通过所述模型推理框架对所述目标模型的参数进行初始化并运行所述目标模型。
[0018]于本申请的一实施例中，所述测试数据集包括图像测试数据集，所述将所述测试数据集输入所述模型推理框架中，根据所述测试数据集对所述目标模型进行模型推理，得到推理结果之前，还包括在车载终端对所述图像测试数据集进行前处理的步骤，所述前处理的步骤包括：
[0019]根据预设的图像尺寸，对所述图像测试数据集中的图像进行缩放，得到第一图像测试数据集；
[0020]获取所述第一图像测试数据集中的多个图像，分别对所述多个图像进行随机剪裁和拼接，并将剪裁和拼接后得到的图像添加至所述第一图像测试数据集中，得到第二图像测试数据集；
[0021]获取所述第二图像测试数据集中的多个图像和所述多个图像对应的标签，根据预设的混合比例对所述多个图像和标签进行混合，并将混合后的图像和标签添加至所述第二图像测试数据集中，得到第三图像测试数据集。
[0022]于本申请的一实施例中，所述得到第三图像测试数据集之后，还包括：
[0023]获取所述第三图像测试数据集的第一数据格式和第二数据格式，所述第一数据格式为在所述车载终端进行前处理后得到的第三图像测试数据集的数据格式，所述第二数据格式为在电脑端进行前处理后得到的第三图像测试数据集的数据格式，所述第一数据格式和第二数据格式为矩阵形式；
[0024]根据所述电脑端中预先配置的矩阵转换方式，对所述第二数据格式的矩阵顺序转换为所述第一数据格式的矩阵顺序，得到矩阵顺序转换后的第二数据格式；
[0025]比对所述第一数据格式与所述矩阵顺序转换后的第二数据格式，得到比对结果，若所述比对结果为所述第一数据格式与所述矩阵顺序转换后的第二数据格式的误差低于预设的误差阈值，则确定所述在所述车载终端进行前处理后的第三图像测试数据集可用。
[0026]于本申请的一实施例中，所述将所述测试数据集输入所述模型推理框架中，根据所述测试数据集对所述目标模型进行模型推理，得到推理结果，包括：
[0027]将所述测试数据集输入所述模型推理框架中，以使所述目标模型调用所述测试数据集；
[0028]根据所述目标模型对所述测试数据集中的数据进行计算，得到第一推理结果；
[0029]根据预设的数据元素对应关系，将所述第一推理结果中的数据元素向目标数据元素进行映射，得到第二推理结果。
[0030]于本申请的一实施例中，所述推理结果包括多个图像元素类别、与所述多个图像元素类别对应的多个图像元素指示框，所述将所述推理结果传输至目标功能模块，以实现在车载终端对所述目标模型的部署之前，还包括对所述推理结果进行后处理的步骤，所述后处理的步骤包括：
[0031]对所述多个图像元素指示框进行得分计算，得到所述多个图像元素指示框的得分；
[0032]根据所述多个图像元素指示框的得分，确定得分最高的最优图像元素指示框；
[0033]分别计算剩余图像元素指示框与所述最优图像元素指示框之间的交并比，若所述交并比大于预设的交并比阈值，则去除所述剩余图像元素指示框中的冗余指示框，得到所述多个图像元素类别对应的的多个候选图像元素指示框；
[0034]若所述多个图像元素类别之间存在组合关系，则计算所述多个图像元素对应的多个候选图像元素指示框之间的中心距离和边角距离，并根据所述中心距离和边角距离判断所述多个候选图像元素指示框是否嵌套；
[0035]若所述多个候选图像元素指示框嵌套，则根据时序调整值缩小所述多个图像元素类别、多个候选图像元素指示框的输出时间，得到后处理后的推理结果。
[0036]于本申请的一实施例中，还提供了一种车载终端模型部署装置，所述装置包括：
[0037]信息获取模块，用于获取目标模型和测试数据集；
[0038]格式转化模块，用于根据预先选取的模型推理框架所需的数据格式，对所述目标模型进行格式转换，得到格式转换后的目标模型；
[0039]模型运行模块，用于将所述格式转换后的目标模型传输至车载终端内的模型推理框架，并运行所述格式转换后的目标模型；
[0040]模型推理模块，用于将所述测试数据集输入所述模型推理框架中，根据所述测试数据集对所述目标模型进行模型推理，得到推理结果；
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种车载终端模型部署方法，其特征在于，所述方法包括：获取目标模型和测试数据集；根据预先选取的模型推理框架所需的数据格式，对所述目标模型进行格式转换，得到格式转换后的目标模型；将所述格式转换后的目标模型传输至车载终端内的模型推理框架，并运行所述格式转换后的目标模型；将所述测试数据集输入所述模型推理框架中，根据所述测试数据集对所述目标模型进行模型推理，得到推理结果；将所述推理结果传输至目标功能模块，以实现在车载终端对所述目标模型的部署。2.根据权利要求1所述的车载终端模型部署方法，其特征在于：所述目标模型的格式为torch格式；所述预先选取的模型推理框架所需的数据格式为tflite格式。3.根据权利要求1所述的车载终端模型部署方法，其特征在于，所述将所述格式转换后的目标模型传输至车载终端内的模型推理框架，并运行所述格式转换后的目标模型，包括：将所述格式转换后的目标模型传输至所述车载终端的系统中，所述车载终端的系统中预先配置tensorflow
‑
lite架包；将所述系统中的目标模型传输至所述模型推理框架中；根据所述tensorflow
‑
lite架包中的tensorflow初始化接口，获取并响应tensorflow初始化指令，以通过所述模型推理框架对所述目标模型的参数进行初始化并运行所述目标模型。4.根据权利要求1所述的车载终端模型部署方法，其特征在于，所述测试数据集包括图像测试数据集，所述将所述测试数据集输入所述模型推理框架中，根据所述测试数据集对所述目标模型进行模型推理，得到推理结果之前，还包括在车载终端对所述图像测试数据集进行前处理的步骤，所述前处理的步骤包括：根据预设的图像尺寸，对所述图像测试数据集中的图像进行缩放，得到第一图像测试数据集；获取所述第一图像测试数据集中的多个图像，分别对所述多个图像进行随机剪裁和拼接，并将剪裁和拼接后得到的图像添加至所述第一图像测试数据集中，得到第二图像测试数据集；获取所述第二图像测试数据集中的多个图像和所述多个图像对应的标签，根据预设的混合比例对所述多个图像和标签进行混合，并将混合后的图像和标签添加至所述第二图像测试数据集中，得到第三图像测试数据集。5.根据权利要求4所述的车载终端模型部署方法，其特征在于，所述得到第三图像测试数据集之后，还包括：获取所述第三图像测试数据集的第一数据格式和第二数据格式，所述第一数据格式为在所述车载终端进行前处理后得到的第三图像测试数据集的数据格式，所述第二数据格式为在电脑端进行前处理后得到的第三图像测试数据集的数据格式，所述第一数据格式和第二数据格式为矩阵形式；根据所述电脑端中预先配置的矩阵转换方式，对所述第二数据格式的矩阵顺序转换为
所述第一数据格式的矩阵顺序，得到矩阵顺序转换后的第二数据格式；比对所述第一数据格式与所述矩阵顺序转换后的第二数据格式，得到比对结果，若所...

【专利技术属性】
技术研发人员：朱诚，王传钊，刘大全，张英鹏，肖宏，
申请(专利权)人：重庆长安汽车股份有限公司，
类型：发明
国别省市：