一种云边协同推理方法及装置制造方法及图纸

本发明专利技术公开了一种云边协同推理方法及装置，云边协同推理方法应用于需要进行云边协同推理服务的场景，云边协同推理服务包括云端推理服务和边端推理服务，该方法包括：云端节点接收云端节点对应的边端节点卸载的云端推理任务，云端推理任务用于表示需要在所述云端节点进行二次推理的推理任务；云端节点基于云端推理服务，对云端推理任务进行推理，得到云端推理结果；云端节点向边端节点发送云端推理结果。可见，实施本发明专利技术能够提高了云边协同的推理效率和准确性，且提高了推理结果的推理精度，有利于提高调度计算资源的准确性，从而有利于提高计算资源的利用率，进而有利于提高处理大规模数据分析业务的效率和准确性。理大规模数据分析业务的效率和准确性。理大规模数据分析业务的效率和准确性。

【技术实现步骤摘要】
一种云边协同推理方法及装置


[0001]本专利技术涉及互联网
，尤其涉及一种云边协同推理方法及装置。

技术介绍

[0002]云计算指通过计算机网络形成的计算能力极强的系统，能够将所有的数据都集中在云计算中心进行收集、汇总、处理、分发。边缘计算是指在靠近物或数据源头的一侧，采用网络、计算、存储、应用核心能力为一体的开放平台，就近提供最近端服务。
[0003]在实际应用中，由于资源限制，边缘计算的计算能力相对有限，通常用于实现局部性、实时、短周期数据的处理与分析等业务，但往往无法处理大规模数据分析业务。因此，提出一种能够处理大规模数据分析业务的技术方案显得尤为重要。

技术实现思路

[0004]本专利技术所要解决的技术问题在于，提供一种云边协同推理方法及装置，能够提高计算资源的利用率，有利于提高处理大规模数据分析业务的效率。
[0005]为了解决上述技术问题，本专利技术第一方面公开了一种云边协同推理方法，所述云边协同推理方法应用于需要进行云边协同推理服务的场景，所述云边协同推理服务包括云端推理服务和边端推理服务，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种云边协同推理方法，其特征在于，所述云边协同推理方法应用于需要进行云边协同推理服务的场景，所述云边协同推理服务包括云端推理服务和边端推理服务，所述方法包括：云端节点接收所述云端节点对应的边端节点卸载的云端推理任务，所述云端推理任务用于表示需要在所述云端节点进行二次推理的推理任务；所述云端节点基于所述云端推理服务，对所述云端推理任务进行推理，得到云端推理结果；所述云端节点向所述边端节点发送所述云端推理结果。2.根据权利要求1所述的云边协同推理方法，其特征在于，在所述云端节点接收所述云端节点对应的边端节点卸载的云端推理任务之前，所述方法还包括：所述云端节点确定云边协同推理服务信息；所述云端节点向所述边端节点发送所述云边协同推理服务信息；所述云端节点根据所述云边协同推理服务信息，创建云边协同推理服务；所述云端节点监听所述云边协同推理服务是否创建完成；当监听到所述云边协同推理服务创建完成时，所述云端节点检测是否存在所述边端节点向所述云端节点卸载云端推理任务的请求；当检测到存在所述边端节点向所述云端节点卸载云端推理任务的请求时，触发所述云端节点执行所述的接收所述云端节点对应的边端节点卸载的云端推理任务的操作。3.根据权利要求2所述的云边协同推理方法，其特征在于，所述云端节点确定云边协同推理服务信息，包括：所述云端节点检测是否存在云边协同推理服务请求；当检测到所述云边协同推理服务请求时，所述云端节点根据所述云边协同推理服务请求，确定云边协同推理服务信息。4.根据权利要求2所述的云边协同推理方法，其特征在于，所述云端推理任务由以下方法确定：由所述边端节点根据接收到的所述云边协同推理服务信息，确定云边协同推理任务；由所述边端节点基于所述边端推理服务，对所述云边协同推理任务进行推理，得到边端推理结果；由所述边端节点将推理精度小于预设推理精度阈值的所述边端推理结果对应的云边协同推理任务确定为云端推理任务。5.根据权利要求2
‑
4任一项所述的云边协同推理方法，其特征在于，所述云端节点根据所述云边协同推理服务信息，创建云边协同推理服务，包括：所述云端节点根据所述云边协同推理信息，创建云端推理服务；所述云端节点根据所述云边协同推理信息，向所述边端节点发送边端推理服务创建...

【专利技术属性】
技术研发人员：纪伟，林圳杰，王李明，许佳佳，孙凯，张朋，段祥，张志远，
申请(专利权)人：南方电网数字平台科技广东有限公司，
类型：发明
国别省市：