本申请实施例公开了一种基于边云解耦的神经网络推理方法、装置及设备和介质，涉及人工智能技术领域，所述方法包括：接收边缘端发送的目标图像的浅层特征，所述浅层特征是通过部署在所述边缘端的共享参数层确定的，所述浅层特征用于表征像素点信息；确定所述目标图像关联的多个目标感知任务，以及，确定所述多个目标感知任务各自对应的第一目标模型，多个所述第一目标模型均是以所述共享参数层为浅层特征提取层的神经网络模型；根据所述浅层特征、以及每个所述第一目标模型，确定每个所述目标感知任务的推理结果。目标感知任务的推理结果。目标感知任务的推理结果。
【技术实现步骤摘要】
基于边云解耦的神经网络推理方法、装置及设备和介质
[0001]本申请涉及人工智能
，特别是涉及一种基于边云解耦的神经网络推理方法、装置及设备和介质。
技术介绍
[0002]视觉模型深度推理需要依赖于高性能计算资源，为了减少边缘计算对计算资源的消耗，技术供应商往往采用云计算方案，直接将整幅图像从边缘端上传至云端，或将感知任务进行逻辑拆分。
[0003]然而，将整幅图像从边缘端上传至云端需要海量的带宽成本，部分感知任务也难以轻易拆分为多个低阶的感知子任务，使得基于边云计算的神经网络模型适用性较低。
技术实现思路
[0004]本申请实施例的目的是提供一种基于边云解耦的神经网络推理方法、装置及设备和介质，可以提高基于边云计算的神经网络模型的适用性。
[0005]为解决上述技术问题，第一方面，本申请实施例提供了一种基于边云解耦的神经网络推理方法，应用于云端，所述方法包括：接收边缘端发送的目标图像的浅层特征，所述浅层特征是通过部署在所述边缘端的共享参数层确定的，所述浅层特征用于表征像素点信息；确定所述目标图像关联的多个目标感知任务，以及，确定所述多个目标感知任务各自对应的第一目标模型，多个所述第一目标模型均是以所述共享参数层为浅层特征提取层的神经网络模型；根据所述浅层特征、以及每个所述第一目标模型，确定每个所述目标感知任务的推理结果。
[0006]可选地，所述第一目标模型包含与所述目标感知任务对应的任务关联参数层；所述根据所述浅层特征、以及每个所述第一目标模型，确定每个所述目标感知任务的推理结果，包括：将所述浅层特征分别输入至每个所述第一目标模型的任务关联参数层，得到每个所述目标感知任务的推理结果。
[0007]可选地，所述确定所述目标图像关联的多个目标感知任务，包括：从所述云端关联的多个感知任务中，确定所述目标图像关联的多个目标感知任务。
[0008]可选地，接收边缘端发送的目标图像的浅层特征之前，所述方法还包括：针对所述云端关联的多个感知任务，确定第二目标模型，所述第二目标模型用于获取所述多个感知任务各自的推理结果；根据所述第二目标模型中的浅层特征提取层，确定所述共享参数层；将所述共享参数层部署至所述边缘端，以及，确定以所述共享参数层为浅层特征
提取层的所述多个感知任务各自对应的神经网络模型。
[0009]可选地，所述针对所述云端关联的多个感知任务，确定第二目标模型，包括：建立包含浅层特征提取层、中层深度特征编码层、以及所述多个感知任务各自对应的深层推理层的第一神经网络模型；根据所述多个感知任务各自对应的数据集，对所述第一神经网络模型进行训练；将满足设定训练完成条件的第一神经网络模型，确定为所述第二目标模型。
[0010]可选地，所述确定以所述共享参数层为浅层特征提取层的所述多个感知任务各自对应的神经网络模型，包括：以所述共享参数层为浅层特征提取层，建立所述多个感知任务各自对应的第二神经网络模型，所述第二神经网络模型包含浅层特征提取层、以及对应的所述感知任务的任务关联参数层；固定各个所述第二神经网络模型的浅层特征提取层的参数，并根据所述多个感知任务各自对应的数据集，分别对各个所述第二神经网络模型的任务关联参数层进行参数训练；将满足设定参数训练完成条件的各个所述第二神经网络模型，确定为所述多个感知任务各自对应的神经网络模型。
[0011]可选地，所述接收边缘端发送的目标图像的浅层特征，包括：接收所述边缘端发送的压缩后的浅层特征；将所述压缩后的浅层特征进行重建，得到所述目标图像的浅层特征。
[0012]第二方面，本申请实施例还提供了一种基于边云解耦的神经网络推理装置，应用于云端，所述装置包括：第一接收模块，用于接收边缘端发送的目标图像的浅层特征，所述浅层特征是通过部署在所述边缘端的共享参数层确定的，用于表征像素点信息；第一处理模块，用于确定所述目标图像关联的多个目标感知任务，以及，确定所述多个目标感知任务各自对应的第一目标模型，多个所述第一目标模型均是以所述共享参数层为浅层特征提取层的神经网络模型；第一推理模块，用于根据所述浅层特征、以及每个所述第一目标模型，确定每个所述目标感知任务的推理结果。
[0013]第三方面，本申请实施例还提供了一种电子设备，包括存储器、处理器及存储在所述存储器上的计算机程序，所述处理器执行所述计算机程序以实现如第一方面所述的基于边云解耦的神经网络推理方法。
[0014]第四方面，本申请实施例还提供了一种计算机可读存储介质，其上存储有计算机程序/指令，该计算机程序/指令被处理器执行时实现如第一方面所述的基于边云解耦的神经网络推理方法。
[0015]第五方面，本申请实施例还提供了一种计算机程序产品，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现如第一方面所述的基于边云解耦的神经网络推理方法。
[0016]由上述技术方案可以看出，本申请将神经网络模型在结构上进行了解耦，对用于实现目标感知任务推理的各个第一目标模型设置了相同的浅层特征提取层，并将该相同的
浅层特征提取层作为共享参数层部署在边缘端。在进行任务推理时，由该部署在边缘端的共享参数层完成浅层特征提取，上传至云端后由该各个第一目标模型完成后续高阶特征挖掘和任务推理，可以有效降低云端计算时上传图像对带宽的要求，同时也避免了因为大部分高阶任务无法轻易拆分成多个可端到端学习子任务引起的边缘端
‑
云端协同推理难题。
附图说明
[0017]为了更清楚地说明本申请实施例，下面将对实施例中所需要使用的附图做简单的介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0018]图1为本申请实施例提供的一种基于边云解耦的神经网络推理方法的实施流程图；图2为本申请实施例提供的一种第一目标模型的示意图；图3为本申请实施例提供的一种神经网络结构解耦的示意图；图4为本申请实施例提供的一种基于边云解耦的神经网络推理装置的结构示意图；图5为本申请实施例提供的一种电子设备的示意图；图6为本申请实施例提供的一种计算机可读存储介质的示意图。
具体实施方式
[0019]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下，所获得的所有其他实施例，都属于本申请保护范围。
[0020]本申请的说明书和权利要求书及上述附图中的术语“包括”和“具有”以及他们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可包括没有列出的步骤或单元。
[0021]视觉模型深度推理需要依赖于高性能计算资源，为了减少边缘计算对计算资源的消耗，技术供应商往往采用云计算方案，由于直接将整幅图像从边缘端本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种基于边云解耦的神经网络推理方法，其特征在于，应用于云端，所述方法包括：接收边缘端发送的目标图像的浅层特征，所述浅层特征是通过部署在所述边缘端的共享参数层确定的，所述浅层特征用于表征像素点信息；确定所述目标图像关联的多个目标感知任务，以及，确定所述多个目标感知任务各自对应的第一目标模型，多个所述第一目标模型均是以所述共享参数层为浅层特征提取层的神经网络模型；根据所述浅层特征、以及每个所述第一目标模型，确定每个所述目标感知任务的推理结果。2.根据权利要求1所述的方法，其特征在于，所述第一目标模型包含与所述目标感知任务对应的任务关联参数层；所述根据所述浅层特征、以及每个所述第一目标模型，确定每个所述目标感知任务的推理结果，包括：将所述浅层特征分别输入至每个所述第一目标模型的任务关联参数层，得到每个所述目标感知任务的推理结果。3.根据权利要求1所述的方法，其特征在于，所述确定所述目标图像关联的多个目标感知任务，包括：从所述云端关联的多个感知任务中，确定所述目标图像关联的多个目标感知任务。4.根据权利要求3所述的方法，其特征在于，接收边缘端发送的目标图像的浅层特征之前，所述方法还包括：针对所述云端关联的多个感知任务，确定第二目标模型，所述第二目标模型用于获取所述多个感知任务各自的推理结果；根据所述第二目标模型中的浅层特征提取层，确定所述共享参数层；将所述共享参数层部署至所述边缘端，以及，确定以所述共享参数层为浅层特征提取层的所述多个感知任务各自对应的神经网络模型。5.根据权利要求4所述的方法，其特征在于，所述针对所述云端关联的多个感知任务，确定第二目标模型，包括：建立包含浅层特征提取层、中层深度特征编码层、以及所述多个感知任务各自对应的深层推理层的第一神经网络模型；根据所述多个感知任务各自对应的数据集，对所述第一神经网络模型进行训练；将满足设定训练完成条件的第一神经网络模型，确定为所述第二目标模型。6...
【专利技术属性】
技术研发人员：陈友明，陈思竹，翟强，
申请(专利权)人：四川弘和数智集团有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。