推理实现方法、网络、电子设备及存储介质技术

本发明专利技术实施例涉及人工智能技术领域，公开了一种推理实现方法、网络、电子设备及存储介质。应用于边缘节点时，该方法包括：接收下级边缘节点和/或终端设备在推理失败的情况下发送的第一推理请求，第一推理请求携带待推理数据和推理类型；根据推理类型调用目标推理模型对待推理数据进行推理；在推理成功的情况下，将目标推理模型输出的推理结果返回给下级边缘节点和/或终端设备；在推理失败的情况下，根据待推理数据和推理类型生成第二推理请求，并将第二推理请求发送给上级边缘节点和/或云端节点，将上级边缘节点和/或云端节点返回的推理结果下发给下级边缘节点和/或终端设备。大大提高终端设备推理成功的概率和准确率，提升用户体验。户体验。户体验。

【技术实现步骤摘要】
推理实现方法、网络、电子设备及存储介质


[0001]本专利技术实施例涉及人工智能
，特别涉及一种推理实现方法、网络、电子设备及存储介质。

技术介绍

[0002]终端设备要实现人工智能通常需要经过感知、推理等过程，例如机器人在需要抓取房间内的某个物体时，机器人通常需要调用自身或外设的一些传感器来采集房间内的图像，以感知当前环境进行感知，然后基于感知到的环境中障碍物的分布情况和目标抓取物体的位置进行推理，得到运动规划结果，然后按照运动规划结果进行执行，直到抓取目标物体，完成抓取任务。
[0003]然而，终端设备进行推理后，得到的结果不一定理想，例如当置信度较低时，终端会判定推理失败。而终端设备一旦推理失败，就会放弃相关任务，导致用户体验很差。

技术实现思路

[0004]本专利技术实施例的目的在于提供一种推理实现方法、网络、电子设备及存储介质，能够大大提高终端设备推理成功的概率和准确率，使得用户体验得到提升。
[0005]为达到上述目的，本专利技术的实施例提供了一种推理实现方法，应用于边缘节点，包括：接收下级边缘本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种推理实现方法，其特征在于，应用于边缘节点，包括：接收下级边缘节点和/或终端设备在推理失败的情况下发送的第一推理请求，所述第一推理请求携带待推理数据和推理类型；根据所述推理类型调用相应的目标推理模型对所述待推理数据进行推理；在推理成功的情况下，将所述目标推理模型输出的推理结果返回给相应的所述下级边缘节点和/或所述终端设备；在推理失败的情况下，根据所述待推理数据和所述推理类型生成第二推理请求，并将所述第二推理请求发送给上级边缘节点和/或云端节点，将所述上级边缘节点和/或所述云端节点返回的推理结果下发给相应的所述下级边缘节点和/或所述终端设备。2.根据权利要求1所述的推理实现方法，其特征在于，所述根据所述推理类型调用相应的目标推理模型对所述待推理数据进行推理，包括：根据所述推理类型在已存储的推理模型中进行匹配；在匹配成功的情况下，将匹配到的推理模型作为所述目标推理模型并将所述待推理数据输入到所述目标推理模型中；在匹配失败的情况下，根据所述推理类型向所述上级边缘节点和/或所述云端节点请求推理模型，将所述上级边缘节点和/或所述云端节点返回的推理模型作为所述目标推理模型并将所述待推理数据输入到所述目标推理模型中。3.根据权利要求2所述的推理实现方法，其特征在于，所述匹配到的推理模型包括多个携带优先级标签的推理模型，所述将匹配到的推理模型作为所述目标推理模型，包括：将所述优先级标签指示的优先级最高的推理模型作为所述目标推理模型。4.根据权利要求3所述的推理实现方法，其特征在于，所述优先级标签是根据推理模型被存储的时长和/或推理模型的准确率设置的。5.根据权利要求1至4中任一项所述的推理实现方法，其特征在于，所述方法还包括：接收所述上级边缘节点和/或所述云端节点主动下发的推理模型并存储；和/或，向所述下级边缘节点和/或所述终端设备主动下发推理模型。6.根据权利要求1至4中任一项所述的推理实现方法，其特征在于，所述方法还包括：根据预设的失效条件检测已存储的推理模型是否失效；所述失效条件包括已存储时间超过预设的有效时长和/或准确率低于预设阈值；在检测到至少一个已存储的推理模型失效的情况下，删除失效的推理模型。7.根据权利要求1至4中任一项所述的推理实现方法，其特征在于，所述根据所述推理类型调用相应的目标推理模型对所述待推理数据进行推理之后，所述方法还包括：在推理成功的情况下，将所述待推理数据的特征信息上报给所述上级边缘节点和/或所述云端节点，以在所述云端节点根据所述待推理数据的特征信息离线训练推理模型。8.根据权利要求1至4中任一项所述的推理实现方法，其特征在于，所述方法还包括：接收所述下级边缘节点和/或所述终端设备在推理成功的情况下发送的所述待推理数据的特征信息；将所述待推理数据的特征信息发送给所述上级边缘节点和/或所述云端节点。9.一种推理实现方法，其特征在于，应用于终端设备，包括：根据接收到的推理任务进行数据采集，得到待推理数据；
根据所述推理任务的推理类型调用相应的目标推理模型对所述待推理数据进行推理；在推理失败的情况下，根据所述待推理数据和所述推理类型生成推理请求并将所述推理请求发送给边缘节点和/或云端节点，供所述边缘节点和/或云端节点根据所述推理请求返回推理结果。10.根据权利要求9所述的推理实现方法，其特征在于，所述根据所述推理任务的推理类型调用相应的目标推理模型对所述待推理数据进行推理，包括：根据所述推理类型在已存储的推理模型中进行匹配；在匹配成功的情况下，将匹配到的推理模型作为所述目标推理模型并将所述待推理数据输入到所述目标推理模型中；在匹配失败的情况下，根据所述推理类型向所述边缘节点和/或所述云端节点请求推理模型，将所述边缘节点和/或所述云端节点返回的推理模型作为所述目标推理模型并将所述待推理数据输入到所述目标推理模型中。11.根据权利要求10所述的推理实现方法，其特征在于，所述匹配到的推理模型包括多个携带优先级标签的推理模型，所述将匹配到的推理模型作为所述目标推理模型，包括：将所述优先级标签指示的优先级最高的推理模型作为所述目标推理模型。12.根据权利要求11所述的推理实现方法，其特征在于，所述优先级标签是根据推理模型被存储的时长和/或推理模型的准确率设置的。13.根据权利要求9至12中任一项所述的推理实现方法，其特...

【专利技术属性】
技术研发人员：魏旭宾，朱磊，
申请(专利权)人：达闼科技北京有限公司，
类型：发明
国别省市：