人工智能模型的部署方法、系统、装置、设备及存储介质制造方法及图纸

本公开提供了人工智能模型的部署方法、系统、装置、设备及存储介质，涉及计算机技术领域，尤其涉及人工智能、边缘计算、物联网、深度学习等技术领域。具体实现方案为：根据第一部署需求，确定关联有目标采集设备的目标边缘设备，其中，目标采集设备用于采集待部署的目标类别模型所需利用的数据；根据第一部署需求、目标边缘设备的信息和目标采集设备的信息，从目标类别模型的模型库中确定与目标边缘设备适配的第一人工智能模型；将第一人工智能模型部署至目标边缘设备。根据本公开的技术，可以实现为目标边缘设备自适应的部署相适配的第一人工智能模型。一人工智能模型。一人工智能模型。

【技术实现步骤摘要】
人工智能模型的部署方法、系统、装置、设备及存储介质


[0001]本公开涉及计算机
，尤其涉及人工智能、边缘计算、物联网、深度学习等


技术介绍

[0002]AI(Artificial Intelligence，人工智能)模型通常在云端训练并部署，但由于传输和处理数据的成本和延迟，云端并不总是最佳的解决方案。而边缘计算提供了一种更加高效和经济的人工智能模型的部署解决方案。

技术实现思路

[0003]本公开提供了一种人工智能模型的部署方法、系统、装置、设备及存储介质。
[0004]根据本公开的一方面，提供了一种人工智能模型的部署方法，包括：
[0005]根据第一部署需求，确定关联有目标采集设备的目标边缘设备，其中，目标采集设备用于采集待部署的目标类别模型所需利用的数据；
[0006]根据第一部署需求、目标边缘设备的信息和目标采集设备的信息，从目标类别模型的模型库中确定与目标边缘设备适配的第一人工智能模型；
[0007]将第一人工智能模型部署至目标边缘设备。
[0008]根据本公开的另一方面，提供了一种人工智能模型的部署方法，包括：
[0009]确定需要进行信息传输的相关联的云端，其中，云端根据第一部署需求与目标边缘设备建立关联；
[0010]根据第一部署需求，将自身的信息和关联的目标采集设备的信息传输至云端，以使云端从待部署的目标类别模型的模型库中确定与目标边缘设备适配的第一人工智能模型，其中，目标采集设备用于采集目标类别模型所需的数据；
[0011]将云端传输的第一人工智能模型在本地进行部署。
[0012]根据本公开的另一方面，提供了一种人工智能模型的部署系统，包括：
[0013]云端，用于执行本公开实施例中任一的方法；
[0014]目标边缘设备，与云端进行信息传输，用于执行本公开实施例中任一的方法；
[0015]目标终端，用于向云端发送部署需求和接收云端发送的计算结果。
[0016]根据本公开的另一方面，提供了一种人工智能模型的部署装置，应用于云端，包括：
[0017]第一确定模块，用于根据第一部署需求，确定关联有目标采集设备的目标边缘设备，其中，目标采集设备用于采集待部署的目标类别模型所需利用的数据；
[0018]第二确定模块，用于根据第一部署需求、目标边缘设备的信息和目标采集设备的信息，从目标类别模型的模型库中确定与目标边缘设备适配的第一人工智能模型；
[0019]第一部署模块，用于将第一人工智能模型部署至目标边缘设备。
[0020]根据本公开的另一方面，提供了一种人工智能模型的部署装置，应用于目标边缘
设备，包括：
[0021]第六确定模块，用于确定需要进行信息传输的相关联的云端，其中，云端根据第一部署需求与目标边缘设备建立关联；
[0022]第一传输模块，用于根据第一部署需求，将自身的信息和关联的目标采集设备的信息传输至云端，以使云端从待部署的目标类别模型的模型库中确定与目标边缘设备适配的第一人工智能模型，其中，目标采集设备用于采集目标类别模型所需的数据；
[0023]第二部署模块，用于将云端传输的第一人工智能模型在本地进行部署。
[0024]根据本公开的另一方面，提供了一种电子设备，包括：
[0025]至少一个处理器；以及
[0026]与该至少一个处理器通信连接的存储器；其中，
[0027]该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开实施例中任一的方法。
[0028]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，该计算机指令用于使该计算机执行根据本公开实施例中任一的方法。
[0029]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现根据本公开实施例中任一的方法。
[0030]根据本公开的技术，可以实现为目标边缘设备自适应的部署相适配的第一人工智能模型。
[0031]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0032]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0033]图1是根据本公开实施例的人工智能模型的部署方法的示意图；
[0034]图2是根据本公开实施例的人工智能模型的部署方法的应用场景示意图；
[0035]图3是根据本公开实施例的人工智能模型的部署方法的示意图；
[0036]图4是根据本公开实施例的人工智能模型的部署系统的示意图；
[0037]图5是根据本公开实施例的人工智能模型的部署系统的示意图；
[0038]图6是根据本公开实施例的人工智能模型的部署装置的示意图；
[0039]图7是根据本公开实施例的人工智能模型的部署装置的示意图；
[0040]图8是用来实现本公开实施例的人工智能模型的部署方法的电子设备的框图。
具体实施方式
[0041]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0042]如图1所示，本公开实施例提供了一种人工智能模型的部署方法，应用于云端，包括：
[0043]步骤S101：根据第一部署需求，确定关联有目标采集设备的目标边缘设备，其中，目标采集设备用于采集待部署的目标类别模型所需利用的数据。
[0044]步骤S102：根据第一部署需求、目标边缘设备的信息和目标采集设备的信息，从目标类别模型的模型库中确定与目标边缘设备适配的第一人工智能模型。
[0045]步骤S103：将第一人工智能模型部署至目标边缘设备。
[0046]根据本公开实施例，需要说明的是：
[0047]第一部署需求，可以理解为用户通过目标终端发送给云端的模型部署指令。第一部署需求中可以包含有与模型部署有关的任何信息。例如，根据第一部署需求，可以知道用户需要部署至目标边缘设备的人工智能模型的模型功能、可以知道用户需要部署至目标边缘设备的人工智能模型所需的软硬件运行需求、可以知道用户对需要部署至目标边缘设备的人工智能模型的模型性能的要求，等等。其中，目标终端，包括但不限于台式机、笔记本电脑、平板电脑、手机、服务器等。
[0048]目标采集设备，可以包括传感器、图像采集设备、声音采集设备等等，在此不做具体限定，能够进行数据采集的设备均可以作为目标采集设备。具体的，目标采集设备可以是摄像头、麦克风、温度传感器、风力传感器、湿度传感器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能模型的部署方法，包括：根据第一部署需求，确定关联有目标采集设备的目标边缘设备，其中，所述目标采集设备用于采集待部署的目标类别模型所需利用的数据；根据所述第一部署需求、所述目标边缘设备的信息和所述目标采集设备的信息，从所述目标类别模型的模型库中确定与所述目标边缘设备适配的第一人工智能模型；以及将所述第一人工智能模型部署至所述目标边缘设备。2.根据权利要求1所述的方法，其中，根据第一部署需求，确定关联有目标采集设备的目标边缘设备，包括：根据第一部署需求，确定模型匹配信息；根据所述模型匹配信息，从多个候选边缘设备中确定关联有目标采集设备的目标边缘设备。3.根据权利要求2所述的方法，其中，根据所述模型匹配信息，从多个候选边缘设备中确定关联有目标采集设备的目标边缘设备，包括：根据所述模型匹配信息，确定预设的配对标签，其中，所述配对标签用于表征目标类别模型与特定边缘设备的预设部署关系；根据所述预设的配对标签，将多个候选边缘设备中的所述特定边缘设备确定为关联有目标采集设备的目标边缘设备。4.根据权利要求2所述的方法，其中，根据所述模型匹配信息，从多个候选边缘设备中确定关联有目标采集设备的目标边缘设备，包括：根据所述模型匹配信息，确定待部署的目标类别模型的模型功能；根据所述模型功能，确定匹配的目标采集设备；从多个候选边缘设备中确定关联有目标采集设备的目标边缘设备；或根据所述模型匹配信息，确定待部署的目标类别模型的模型功能和硬件需求；根据所述模型功能，确定匹配的目标采集设备；从多个候选边缘设备中确定关联有目标采集设备且符合所述硬件需求的目标边缘设备。5.根据权利要求1所述的方法，其中，根据所述第一部署需求、所述目标边缘设备的信息和所述目标采集设备的信息，从所述目标类别模型的模型库中确定与所述目标边缘设备适配的第一人工智能模型，包括：根据所述第一部署需求，确定模型计算需求，其中，所述模型计算需求包括计算速度和/或计算准确度；确定所述目标边缘设备的信息，其中，所述目标边缘设备的信息包括硬件架构信息、操作系统信息、网络环境信息和硬件的资源使用信息中的至少一种；确定所述目标采集设备的信息，其中，所述目标采集设备的信息包括采集精度信息和/或采集数据的类型信息；根据所述模型计算需求、所述目标边缘设备的信息和所述目标采集设备的信息，从所述目标类别模型的模型库中确定与所述目标边缘设备适配的第一人工智能模型。6.根据权利要求1至5任一项所述的方法，还包括：
确定第一计算结果，其中，所述第一计算结果为已部署在所述目标边缘设备上的所述第一人工智能模型所生成；将所述第一计算结果反馈至目标终端，其中，所述目标终端用于发送所述第一部署需求。7.根据权利要求1至5任一项所述的方法，还包括：确定第一计算结果，其中，所述第一计算结果为已部署在所述目标边缘设备上的所述第一人工智能模型所生成；根据所述第一计算结果，利用第二人工智能模型，生成第二计算结果；将所述第二计算结果反馈至目标终端，其中，所述目标终端用于发送所述第一部署需求。8.根据权利要求1至5任一项所述的方法，还包括：根据第二部署需求，确定模型操作指令；将所述模型操作指令发送至所述目标边缘设备，以使所述目标边缘设备根据所述模型操作指令，对已部署在所述目标边缘设备上的所述第一人工智能模型进行部署处理，其中，所述部署处理包括更新所述第一人工智能模型的参数或删除所述第一人工智能模型。9...

【专利技术属性】
技术研发人员：赵鑫，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：