一种配置边缘服务器中神经网络模型的系统及装置制造方法及图纸

技术编号:36154731 阅读:9 留言:0更新日期:2022-12-31 20:00
本申请提供一种配置边缘服务器中神经网络模型的系统及装置,该系统包括云服务器和边缘服务器,云服务器用于训练第一神经网络模型,并将所述第一神经网络模型中符合预设条件的N个层配置参数发送给边缘服务器,边缘服务器基于该N个层的配置更新边缘服务器中的第二神经网络模型中与该配置参数对应的N个层的参数。通过上述方式,边缘服务器可以及时更新第二神经网络模型,以保证边缘服务器上第二神经网络模型的准确性,同时由于传输的为部分层的配置参数,减少了数据传输量,降低了对带宽的要求。要求。要求。

【技术实现步骤摘要】
一种配置边缘服务器中神经网络模型的系统及装置


[0001]本申请涉及计算机
,尤其涉及一种配置边缘服务器中神经网络模型的系统及装置。

技术介绍

[0002]一种业务系统包括云服务器和多个边缘服务器,每个边缘服务器可以接收采集设备发送的采样数据,例如视频数据、物联网(Internet of things,IOT)数据(如温度、瓦斯浓度等)。边缘服务器上部署有神经网络模型,该神经网络模型可以是预置在边缘服务器上的,也可以是云服务器发送给边缘服务器的。边缘服务器可以基于神经网络模型对接收到的采样数据进行检测、识别等,例如,基于视频数据检测员工是否佩戴口罩、是否佩戴安全帽等。
[0003]由于边缘服务器数量众多,出于成本和时间的考量,边缘服务器通常不具有训练神经网络模型的能力。为了保证边缘服务器上神经网络模型的准确率,目前,由云服务器负责训练神经网络模型,并将训练好的神经网络模型下发给边缘服务器。但由于边缘服务器的数量众多,这种实现方式对网络带宽的要求会很高。

技术实现思路

[0004]本申请提供一种配置边缘服务器中神经网络模型的系统及装置,用于在保证边缘服务器的神经网络模型准确率的基础上,降低对带宽的要求。
[0005]第一方面,本申请实施例提供了一种配置边缘服务器中神经网络模型的系统,该系统包括云服务器和边缘服务器。其中,云服务器中运行有神经网络模型,如称为第一神经网络模型。边缘服务器中运行有神经网络模型,如称为第二神经网络模型,第一神经网络模型和第二神经网络模型的结构相同。实际上,第一神经网络模型和第二神经网络模型是同一模型。
[0006]云服务器可以用于训练第一神经网络模型,并将第一神经网络模型中符合预设条件的N个层的配置参数发送给边缘服务器。边缘服务器用于接收该N个层的配置参数,并根据该N个层的配置参数更新第二神经网络模型中与该配置参数对应的N个层的参数。
[0007]通过上述设计,边缘服务器可以及时更新第二神经网络模型,以保证边缘服务器上第二神经网络模型的准确性,同时由于传输的为部分层的配置参数,减少了数据传输量,降低了对带宽的要求。
[0008]在一种可能的实现方式中,该N个层为第一神经网络模型中的预设层。
[0009]通过上述设计,可以指定第一神经网络模型中的任意几层作为预设层,云服务器对第一神经网络模型进行训练之后,将预设的N个层的配置参数发送给边缘服务器。由于该N个层为预设的,云服务器不需要再进行选择,可以节省CPU开销。
[0010]在一种可能的实现方式中,第一神经网络模型中的每一层具有权重,该权重用于指示该层对第一神经网络模型准确率的影响程度;该N个层中任一层的权重大于K

N层任一
层的权重。例如,云服务器可以将第一神经网络模型的K个层按照权重由大到小的顺序排序,将排在前N个的层的配置参数发送给边缘服务器,即该N个层中的任意一个层的权重大于N个层之后的(K

N)任一层的权重。
[0011]通过上述设计,由于该N个层的权重较高,对第一神经网络模型的准确率的影响较大,云服务器可以将该N个层的配置参数发送给边缘服务器,可以在保证边缘服务器准确率的基础上,减少数据传输量。
[0012]在一种可能的实现方式中,N为预设值(如第一预设值),或N为权重超过预设阈值的层的数量。
[0013]通过上述设计,N值配置方式灵活,可以应用在多种场景中。
[0014]在一种可能的实现方式中,配置参数包括N个层中每一层的参数和层标识。
[0015]通过上述设计,边缘服务器可以根据层标识确定第二神经网络模型中的对应层,并根据配置参数中该层的参数来更新第二神经网络模型中该对应层的参数。
[0016]在一种可能的实现方式中,边缘服务器还用于当所述第二神经网络模型的性能参数低于第一预设值时,发送所述第一信息至所述云服务器,指示所述云服务器训练所述第一神经网络模型;云服务器用于接收所述边缘服务器发送的第一信息,并根据所述第一信息训练所述第一神经网络模型。
[0017]在一种可能的实现方式中,所述边缘服务器还用于接收采集设备发送的采样数据,在所述采样数据中确定用于训练所述第一神经网络模型的训练数据,在确定的所述训练数据的数据量超过第二预设值时,发送所述第一信息至所述云服务器,指示所述云服务器训练所述第一神经网络模型;所述云服务器用于接收所述边缘服务器发送的第一信息,并根据所述第一信息训练所述第一神经网络模型。
[0018]在一种可能的实现方式中,所述第一信息包括下列中的一项或多项:所述训练数据、所述第二神经网络模型的性能参数、用于触发对所述第一神经网络模型进行训练的指示信息;其中,所述性能参数包括准确率、置信度、精确度中的一项或多项。
[0019]在一种可能的实现方式中,所述云服务器还用于接收采集设备发送的采样数据,在所述采样数据中确定用于训练所述第一神经网络模型的训练数据,在确定的所述训练数据的数据量超过第三预设值时,训练所述第一神经网络模型。
[0020]在一种可能的实现方式中,所述训练数据包括与历史数据的相似度小于第四预设值的采样数据。
[0021]在一种可能的实现方式中,云服务器检测到满足第一训练条件时,基于训练数据对第一神经网络模型进行训练。
[0022]在一种可能的实现方式中,所述云服务器接收所述边缘服务器发送的训练数据;或
[0023]所述云服务器接收采样设备发送的采样数据,并根据采样数据确定训练数据。
[0024]在一种可能的实现方式中,所述训练数据为与历史数据相似度低于预设值(预设值A)的采样数据。
[0025]在一种可能的实现方式中,第一训练条件包括但不限于:
[0026]云服务器接收到边缘服务器发送的第一信息,所述第一信息用于指示云服务器训练第一神经网络模型;或
[0027]云服务器接收边缘服务器发送的第一信息,并确定边缘服务器中第二神经网络模型的性能参数低于预设值(如预设值B);所述第一信息包括所述第二神经网络模型的性能参数,所述性能参数用于指示第二神经网络模型的使用情况,所述性能参数包括但不限于:第二神经网络模型的准确率、置信度、精确度;或
[0028]云服务器确定训练数据的数据量达到预设值(如预设值C),所述训练数据为所述云服务器基于来自采集设备的采样数据确定的,或从边缘服务器接收的;所述训练数据为与历史数据相似度低于预设值(如预设值D)的采样数据。
[0029]在一种可能的实现方式中,边缘服务器检测到满足第二训练条件时,向云服务器发送第一信息;其中,所述第一信息用于指示云服务器训练所述第一神经网络模型;
[0030]所述第二训练条件包括但不限于:
[0031]边缘服务器确定训练数据的数据量达到预设值(如预设值E,预设值E与预设值C可以是相同的,也可以是不同的),所述训练数据为所述边缘服务器基于接收到的采集设备发送的采样数据确定的;所述训练数据为与历史数据本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种配置边缘服务器中神经网络模型的系统,其特征在于,包括:云服务器用于训练第一神经网络模型,所述第一神经网络模型包括K层;所述云服务器还用于将所述第一神经网络模型中符合预设条件的N个层的配置参数发送给边缘服务器,所述N取小于K的正整数;所述边缘服务器用于根据所述N个层的配置参数,更新所述边缘服务器中运行的第二神经网络模型中与所述配置参数对应的N个层的参数,所述第一神经网络模型与所述第二神经网络模型的结构相同。2.如权利要求1所述的系统,其特征在于,所述N个层为所述第一神经网络模型中的预设层。3.如权利要求1所述的系统,其特征在于,所述第一神经网络模型中的每一层具有权重,所述权重用于指示所述层对所述第一神经网络模型准确率的影响程度;所述N个层中任一层的权重大于K

N层中任一层的权重。4.如权利要求1至3任意一项所述的系统,其特征在于,所述边缘服务器还用于当所述第二神经网络模型的性能参数低于第一预设值时,发送所述第一信息至所述云服务器,指示所述云服务器训练所述第一神经网络模型;所述云服务器用于接收所述边缘服务器发送的第一信息,并根据所述第一信息训练所述第一神经网络模型。5.如权利要求1至4任意一项所述的系统,其特征在于,所述边缘服务器还用于接收采集设备发送的采样数据,在所述采样数据中确定用于训练所述第一神经网络模型的训练数据,在确定的所述训练数据的数据量超过第二预设值时,发送所述第一信息至所述云服务器,指示所述云服务器训练所述第一神经网络模型;所述云服务器用于接收所述边缘服务器发送的第一信息,并根据所述第一信息训练所述第一神经网络模型。6.如权利要求4或5所述的系统,其特征在于,所述第一信息包括下列中的一项或多项:所述训练数据、所述第二神经网络模型的性能参数、用于触发对所述第一神经网络模型进行训练的指示信息;其中,所述性能参数包括准确率、置信度、精确度中的一项或多项。7.如权利要求1至6任意一项所述的系统,其特征在于,所述云服务器还用于接收采集设备发送的采样数据,在所述采样数据中确定用于训练所述第一神经网络模型的训练数据,在确定的所述训练数据的数据量超过第三预设值时,训练所述第一神经网络模型。8.如权利要...

【专利技术属性】
技术研发人员:张玉楼
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1