TinyML设备的推理模型更新方法及其相关组件技术

本申请公开了一种TinyML设备的推理模型更新方法、装置、设备及介质，涉及计算机技术领域，包括：发送推理模型信息获取请求至云平台，以便所述云平台基于所述推理模型信息获取请求生成与推理模型对应的推理模型信息；其中，所述推理模型为所述TinyML设备在进行机器学习推理工作时所需要的参数模型文件；获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件；若满足，则发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息；利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型。实现对TinyML设备的推理模型更新。新。新。

【技术实现步骤摘要】
TinyML设备的推理模型更新方法及其相关组件


[0001]本专利技术涉及计算机
，特别涉及一种TinyML设备的推理模型更新方法、装置、设备及介质。

技术介绍

[0002]TinyML设备是机器学习和嵌入式物联网设备的交集，与传统物联网设备不同的是，TinyML设备不再将大量的数据传输到远端进行处理，而是具备了边缘计算的能力。因此可以只将少量重要数据和机器学习根据模型推理出的结论上传到云端，减少了通讯需求，减少了云端大量的数据处理时间，同时提高了数据的安全性、降低了通讯传输能耗。TinyML设备的机器学习功能需要推理模型的支持，模型的数据量比较大，同时还存在不断更新迭代的需求。
[0003]综上，如何实现对TinyML设备的推理模型更新是目前有待解决的问题。

技术实现思路

[0004]有鉴于此，本专利技术的目的在于提供一种TinyML设备的推理模型更新方法、装置、设备及介质，能够实现对TinyML设备的推理模型更新。其具体方案如下：
[0005]第一方面，本申请公开了一种TinyML设备的推理模型更新方法，应用于TinyML设备，包括：
[0006]发送推理模型信息获取请求至云平台，以便所述云平台基于所述推理模型信息获取请求生成与推理模型对应的推理模型信息；其中，所述推理模型为所述TinyML设备在进行机器学习推理工作时所需要的参数模型文件；
[0007]获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件；
[0008]若满足，则发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息；
[0009]利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型。
[0010]可选的，所述发送推理模型信息获取请求至云平台，包括：
[0011]判断所述TinyML设备当前是否为预设空闲状态；
[0012]若是，则发送推理模型信息获取请求至云平台。
[0013]可选的，所述获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件，包括：
[0014]获取所述云平台返回的包含升级信息、所述TinyML设备的标识信息、所述推理模型的模型类型以及模型版本号的所述推理模型信息；
[0015]提取所述推理模型信息中的所述升级信息，并判断所述升级信息中目标标志是否为预设更新标志；
[0016]相应的，所述若满足，则发送推理模型更新请求至所述云平台，包括：
[0017]若是，则发送推理模型更新请求至所述云平台。
[0018]可选的，所述发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息，包括：
[0019]发送推理模型更新请求至所述云平台；
[0020]按照滑动窗口机制接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息，并将所述推理模型更新信息存储至备份参数区。
[0021]可选的，所述按照滑动窗口机制接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息，并将所述推理模型更新信息存储至备份参数区，包括：
[0022]通过所述云平台基于所述推理模型更新请求生成推理模型更新信息，并将所述推理模型更新信息分成若干个数据包；
[0023]接收所述云平台返回的当前数据包，并对所述当前数据包进行CRC校验；
[0024]若校验通过，则将所述当前数据包保存至备份参数区，并将生成的对应的确认信息发送至所述云平台，以便接收所述云平台基于所述确认信息返回的下一数据包。
[0025]可选的，所述利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型之后，还包括：
[0026]分别更新所述备份参数区的区标识和运行参数区的区标识；其中，所述运行参数区为所述TinyML设备在进行机器学习推理工作过程中使用的参数区域。
[0027]可选的，所述利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型，包括：
[0028]获取预设更新时间要求；其中，所述预设更新时间要求分为立即更新模型要求和延时更新模型要求；
[0029]基于所述预设更新时间要求，并利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型。
[0030]第二方面，本申请公开了一种TinyML设备的推理模型更新装置，应用于TinyML设备，包括：
[0031]请求发送模块，用于发送推理模型信息获取请求至云平台，以便所述云平台基于所述推理模型信息获取请求生成与推理模型对应的推理模型信息；其中，所述推理模型为所述TinyML设备在进行机器学习推理工作时所需要的参数模型文件；
[0032]判断模块，用于获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件；
[0033]更新信息接收模块，用于若满足，则发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息；
[0034]模型更新模块，用于利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型。
[0035]第三方面，本申请公开了一种电子设备，包括：
[0036]存储器，用于保存计算机程序；
[0037]处理器，用于执行所述计算机程序，以实现前述公开的TinyML设备的推理模型更新方法的步骤。
[0038]第四方面，本申请公开了一种计算机可读存储介质，用于存储计算机程序；其中，
所述计算机程序被处理器执行时实现前述公开的TinyML设备的推理模型更新方法的步骤。
[0039]可见，本申请发送推理模型信息获取请求至云平台，以便所述云平台基于所述推理模型信息获取请求生成与推理模型对应的推理模型信息；其中，所述推理模型为所述TinyML设备在进行机器学习推理工作时所需要的参数模型文件；获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件；若满足，则发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息；利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型。由此可见，本申请中TinyML设备发送推理模型信息获取请求至云平台，进而获取云平台返回的推理模型信息，若基于推理模型信息判定当前满足预设更新条件，则利用云平台基于推理模型更新请求返回的推理模型更新信息对推理模型进行更新，得到更新后推理模型，后续可以利用更新后推理模型进行推理计算，以便TinyML设备完成相应的学习任务，无需将数据传输至远端，提高处理效率。
附图说明
[0040]为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种TinyML设备的推理模型更新方法，其特征在于，应用于TinyML设备，包括：发送推理模型信息获取请求至云平台，以便所述云平台基于所述推理模型信息获取请求生成与推理模型对应的推理模型信息；其中，所述推理模型为所述TinyML设备在进行机器学习推理工作时所需要的参数模型文件；获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件；若满足，则发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息；利用所述推理模型更新信息对所述推理模型进行更新，以得到更新后推理模型。2.根据权利要求1所述的TinyML设备的推理模型更新方法，其特征在于，所述发送推理模型信息获取请求至云平台，包括：判断所述TinyML设备当前是否为预设空闲状态；若是，则发送推理模型信息获取请求至云平台。3.根据权利要求1所述的TinyML设备的推理模型更新方法，其特征在于，所述获取所述云平台返回的所述推理模型信息，并基于所述推理模型信息判断当前是否满足预设更新条件，包括：获取所述云平台返回的包含升级信息、所述TinyML设备的标识信息、所述推理模型的模型类型以及模型版本号的所述推理模型信息；提取所述推理模型信息中的所述升级信息，并判断所述升级信息中目标标志是否为预设更新标志；相应的，所述若满足，则发送推理模型更新请求至所述云平台，包括：若是，则发送推理模型更新请求至所述云平台。4.根据权利要求1所述的TinyML设备的推理模型更新方法，其特征在于，所述发送推理模型更新请求至所述云平台，以便接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息，包括：发送推理模型更新请求至所述云平台；按照滑动窗口机制接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息，并将所述推理模型更新信息存储至备份参数区。5.根据权利要求4所述的TinyML设备的推理模型更新方法，其特征在于，所述按照滑动窗口机制接收所述云平台基于所述推理模型更新请求返回的推理模型更新信息，并将所述推理模型更新信息存储至备份参数区，包括：通过所述云平台基于所述推理模型更新请求生成推理模型更新信息，并将所述推理模型更新信息...

【专利技术属性】
技术研发人员：薛海军，赵鑫鑫，李锐，姜凯，
申请(专利权)人：山东浪潮科学研究院有限公司，
类型：发明
国别省市：