一种模型调试方法、装置、电子设备及存储介质制造方法及图纸

技术编号:36901380 阅读:14 留言:0更新日期:2023-03-18 09:21
本公开提供了一种模型调试方法、装置、电子设备及存储介质,涉及人工智能技术领域,尤其涉及深度学习、用户编码/编译等领域。具体实现方案为:提取网络模型中的至少一个组件,以动态图模式加载调试工具,将至少一个组件对应的算子构成信息与调试工具中的算子融合策略进行匹配处理,得到匹配结果,以及,根据匹配结果得到用于模型调试的调试信息。采用本公开,可以实现模型的调试,以优化模型的性能。以优化模型的性能。以优化模型的性能。

【技术实现步骤摘要】
一种模型调试方法、装置、电子设备及存储介质


[0001]本公开涉及人工智能
,尤其涉及深度学习、用户编码/编译等领域。

技术介绍

[0002]随着技术的发展,可以通过人工智能改善硬件性能,所适用的应用场景多种多样,比如涉及图文处理、图像处理、视频处理、人脸识别、目标定位等应用场景的硬件设计中都可以采用人工智能技术,即将训练好的模型部署于硬件中,以提高硬件的处理速度及处理准确率。
[0003]若模型的性能越高,则硬件的处理速度及处理准确率相应的也越高。然而,提高模型的性能,需要对模型进行调试,对此,相关技术未存在有效的解决方案。

技术实现思路

[0004]本公开提供了一种模型调试方法、装置、电子设备以及存储介质。
[0005]根据本公开的一方面,提供了一种模型调试方法,包括:
[0006]提取网络模型中的至少一个组件;
[0007]以动态图模式加载调试工具;
[0008]将所述至少一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到匹配结果;
[0009]以及,根据所述匹配结果,得到用于模型调试的调试信息。
[0010]根据本公开的另一方面,提供了一种模型调试装置,包括:
[0011]提取模块,用于提取网络模型中的至少一个组件;
[0012]加载模块,用于以动态图模式加载调试工具;
[0013]匹配模块,用于将所述至少一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到匹配结果;
[0014]调试模块,用于根据所述匹配结果,得到用于模型调试的调试信息。
[0015]根据本公开的另一方面,提供了一种电子设备,包括:
[0016]至少一个处理器;以及
[0017]与该至少一个处理器通信连接的存储器;其中,
[0018]该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行本公开任意一实施例所提供的方法。
[0019]根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使该计算机执行本公开任意一项实施例所提供的方法。
[0020]根据本公开的另一方面,提供了一种计算机程序产品,包括计算机指令,该计算机指令被处理器执行时实现本公开任意一项实施例所提供的方法。
[0021]采用本公开,可以实现模型的调试,以优化模型的性能。
[0022]应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特
征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0023]附图用于更好地理解本方案,不构成对本公开的限定。其中:
[0024]图1是根据本公开实施例的一分布式集群处理场景的示意图;
[0025]图2是根据本公开实施例的模型调试方法的流程示意图;
[0026]图3是根据本公开实施例的单算子及操作的示意图;
[0027]图4是根据本公开实施例的模型调试方法的流程示意图;
[0028]图5是根据本公开实施例的应用示例中基于调试工具对网络模型进行调试的示意图;
[0029]图6是根据本公开实施例的模型调试装置的组成结构示意图;
[0030]图7是用来实现本公开实施例的模型调试方法的电子设备的框图。
具体实施方式
[0031]以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0032]本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。本文中术语“第一”、“第二”表示指代多个类似的技术用语并对其进行区分,并不是限定顺序的意思,或者限定只有两个的意思,例如,第一特征和第二特征,是指代有两类/两个特征,第一特征可以为一个或多个,第二特征也可以为一个或多个。
[0033]另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
[0034]根据本公开的实施例,图1是根据本公开实施例的一分布式集群处理场景的示意图,该分布式集群系统为集群系统的一个示例,示例性的描述了可以利用该分布式集群系统进行模型调试,本公开不限于单机或多机上的模型调试,采用分布式的处理可以进一步提高模型调试的精度。如图1所示,在该分布式集群系统100中包括多个节点(如服务器集群101、服务器102、服务器集群103、服务器104、服务器105,服务器105还可以连接电子设备,如手机1051及台式机1052),多个节点间,以及多个节点与连接的电子设备间可以共同执行一个或多个模型调试任务。可选地,该分布式集群系统中的多个节点可以采用数据并行的关系进行模型调试。可选地,在每一轮模型调试完成后,多个节点之间都可以进行数据交换(如数据同步)。
[0035]根据本公开的实施例,提供了一种模型调试方法,图2是根据本公开实施例的模型调试方法的流程示意图,该方法可以应用于模型调试装置,例如,该装置可以部署于单机、
多机或集群系统中的终端或服务器或其它处理设备执行的情况下,可以实现模型调试等等处理。其中,终端可以为用户设备(UE,User Equipment)、移动设备、个人数字处理(PDA,Personal Digital Assistant)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该方法还可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图2所示,该方法应用于图1所示的集群系统中的任一节点或电子设备(如台式机等)中,包括:
[0036]S201、提取网络模型中的至少一个组件。
[0037]S202、以动态图模式加载调试工具。
[0038]S203、将至少一个组件对应的算子构成信息与调试工具中的算子融合策略进行匹配处理,得到匹配结果。
[0039]S204、根据匹配结果,得到用于模型调试的调试信息。
[0040]S201

S204的一示例中,网络模型中的至少一个组件可以为网络模型中的层(如卷积层、自注意力层、池化层等等),动态图模型在模型训练中具备随编码随编译的优势,在本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种模型调试方法,包括:提取网络模型中的至少一个组件;以动态图模式加载调试工具;将所述至少一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到匹配结果;以及,根据所述匹配结果,得到用于模型调试的调试信息。2.根据权利要求1所述的方法,还包括:构建所述网络模型的融合算子映射表。3.根据权利要求2所述的方法,其中,所述融合算子映射表包括:所述至少一个组件对应的算子构成信息。4.根据权利要求3所述的方法,其中,所述将所述至少一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到匹配结果,包括:从第一计算图中得到第一子图,其中,所述第一计算图用于表征与所述融合算子映射表对应的全量计算图,所述第一子图用于表征与所述算子构成信息对应的局部计算图;获取第二子图,所述第二子图为所述调试工具中用于表征局部融合算子的局部计算图;将所述第一子图与所述第二子图进行所述匹配处理,所述匹配结果为所述第一子图与所述第二子图为同构图的情况下,匹配成功。5.根据权利要求1

4中任一项所述的方法,其中,所述将所述至少一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到匹配结果,包括:在所述网络模型中存在同类型的n个组件的情况下,将一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到所述匹配结果;其中,所述n为大于1的整数;针对同类型的n

1个组件,不执行所述匹配处理。6.根据权利要求1

4中任一项所述的方法,还包括:采用统一的应用程序接口API接口,反馈所述调试信息;根据所述调试信息对所述网络模型进行模型优化,得到目标网络模型。7.根据权利要求6所述的方法,其中,所述调试信息包括:与融合算子相关的算子信息、与所述算子信息对应的组网代码范围。8.一种模型调试装置,包括:提取模块,用于提取网络模型中的至少一个组件;加载模块,用于以动态图模式加载调试工具;匹配模块,用于将所述至少一个组件对应的算子构成信息与所述调试工具中的算子融合策略进行匹配处理,得到匹配结果;调试模块,用于根据所述匹配结果,得到用于模型...

【专利技术属性】
技术研发人员:郝宏翔巩伟宝沈亮吴志华于佃海
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1