System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请属于通信,具体涉及一种ai网络模型交互方法、装置和通信设备。
技术介绍
1、在相关技术中,对借助人工智能(artificial intelligence,ai)网络模型来提升第5代(5th generation,5g)通信系统网络性能的方法进行了研究。
2、该ai网络模型可以借助已有的ai工具,来实现网络模型的搭建、训练与验证工作。并通过在无线通信系统中对ai网络模型进行交互,以将训练得到的ai网络模型部署在需要使用该ai网络模型的目标设备,这就涉及ai网络模型的传输问题。
3、在相关技术中,存在由于ai网络模型的尺寸较大或复杂度较高而造成传输开销大,推理时占用大量的计算资源,推理时延高等问题。
技术实现思路
1、本申请实施例提供一种ai网络模型交互方法、装置和通信设备,能够降低传输开销和/或降低推理时占用的计算资源和推理时延。
2、第一方面,提供了一种人工智能ai网络模型交互方法,该方法包括:
3、第一设备向第二设备发送第一信息,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相关的信息;
4、所述第一设备获取目标ai网络模型的相关信息,所述目标ai网络模型与所述第一信息对应。
5、第二方面,提供了一种人工智能ai网络模型交互装置,应用于第一设备,该装置包括:
6、第一发送模块,用于向第二设备发送第一信息,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相
7、第一获取模块,用于获取目标ai网络模型的相关信息,所述目标ai网络模型与所述第一信息对应。
8、第三方面,提供了一种人工智能ai网络模型交互方法,包括:
9、第二设备接收来自第一设备的第一信息,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相关的信息;
10、所述第二设备向所述第一设备发送目标ai网络模型的相关信息,所述目标ai网络模型与所述第一信息对应,或者,所述第二设备根据所述第一信息发送第一ai网络模型的相关信息,其中,所述第一ai网络模型用于进行压缩处理得到第二ai网络模型,所述第二ai网络模型与所述第一信息对应。
11、第四方面,提供了一种人工智能ai网络模型交互装置,应用于第二设备,该装置包括:
12、第一接收模块,用于接收来自第一设备的第一信息,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相关的信息;
13、第二发送模块,用于向所述第一设备发送目标ai网络模型的相关信息,所述目标ai网络模型与所述第一信息对应,或者,根据所述第一信息发送第一ai网络模型的相关信息,其中,所述第一ai网络模型用于进行压缩处理得到第二ai网络模型,所述第二ai网络模型与所述第一信息对应。
14、第五方面,提供了一种通信设备,该通信设备包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面或第三方面所述的方法的步骤。
15、第六方面,提供了一种通信设备,包括处理器及通信接口,其中,所述通信接口用于向第二设备发送第一信息,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相关的信息;所述通信接口或者所述处理器用于获取目标ai网络模型的相关信息,所述目标ai网络模型与所述第一信息对应;或者,
16、所述通信接口用于接收来自第一设备的第一信息,以及向所述第一设备发送目标ai网络模型的相关信息或者根据所述第一信息发送第一ai网络模型的相关信息,其中,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相关的信息,所述目标ai网络模型与所述第一信息对应,所述第一ai网络模型用于进行压缩处理得到第二ai网络模型,所述第二ai网络模型与所述第一信息对应。
17、第七方面,提供了一种通信系统,包括:第一设备及第二设备,所述第一设备可用于执行如第一方面所述的ai网络模型交互方法的步骤,所述第二设备可用于执行如第三方面所述的ai网络模型交互方法的步骤。
18、第八方面,提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤,或者实现如第三方面所述的方法的步骤。
19、第九方面,提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第一方面所述的方法,或实现如第三方面所述的方法。
20、第十方面,提供了一种计算机程序/程序产品,所述计算机程序/程序产品被存储在存储介质中,所述计算机程序/程序产品被至少一个处理器执行以实现如第一方面所述的ai网络模型交互方法的步骤,或者所述计算机程序/程序产品被至少一个处理器执行以实现如第三方面所述的ai网络模型交互方法的步骤。
21、在本申请实施例中,第一设备向第二设备发送第一信息,所述第一信息包括所述第一设备需要的ai网络模型的压缩和/或模型推理相关的信息;所述第一设备获取目标ai网络模型的相关信息,所述目标ai网络模型与所述第一信息对应。这样,在第二设备预先存储或者训练得到ai网络模型的情况下,第一设备在从第二设备获取ai网络模型的过程中,第一设备可以向第二设备发送该第一设备所需要的ai网络模型的压缩和/或模型推理相关的信息,以使第二设备能够按照第一设备的需求来确定以下至少一项:第一设备需要的ai网络模型的类型、尺寸、功能、复杂程度,以及对确定的ai网络模型进行压缩处理时的参数、压缩方法、压缩节点等,这样,能够使第二设备按照第一设备的需求对ai网络模型进行压缩,并对压缩后的ai网络模型进行传输,能够降低ai网络模型的传输开销;此外,还可以是第二设备按照第一设备的需求选择与第一设备的模型推理过程相匹配的ai网络模型,能够降低第一设备对目标ai网络模型进行推理时占用的计算资源和推理时延。
本文档来自技高网...【技术保护点】
1.一种人工智能AI网络模型交互方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述第一设备获取目标AI网络模型的相关信息,包括:
3.根据权利要求1所述的方法,其特征在于,所述第一信息包括以下至少一项:
4.根据权利要求3所述的方法,其特征在于,所述第一指示信息指示所述第一设备、所述第二设备或第三设备对AI网络模型进行压缩。
5.根据权利要求4所述的方法,其特征在于,在所述第二设备不具有与所述第一信息匹配的AI网络模型,且所述第一指示信息指示所述第一设备对AI网络模型进行压缩的情况下,所述第一设备获取目标AI网络模型的相关信息,包括:
6.根据权利要求5所述的方法,其特征在于,所述第三信息包括以下至少一项:对所述第一AI网络模型进行压缩处理时采用的AI网络模型压缩方法和AI网络模型压缩相关的限制信息。
7.根据权利要求5所述的方法,其特征在于,在所述第一设备根据所述第三信息对所述第一AI网络模型进行压缩处理,得到所述第二AI网络模型之后,所述方法还包括:
8.根据权利要求3所
9.根据权利要求5所述的方法,其特征在于,在所述第一设备获取到由所述第一设备或第三设备压缩得到的第二AI网络模型的情况下,所述方法还包括:
10.根据权利要求9所述的方法,其特征在于,在所述匹配结果表示所述第二AI网络模型与所述第一信息不匹配的情况下,所述方法还包括:
11.根据权利要求9所述的方法,其特征在于,在所述匹配结果表示所述第二AI网络模型与所述第一信息不匹配的情况下,所述方法还包括:
12.一种人工智能AI网络模型交互方法,其特征在于,包括:
13.根据权利要求12所述的方法,其特征在于,所述目标AI网络模型为压缩后的AI网络模型或未压缩的AI网络模型。
14.根据权利要求12所述的方法,其特征在于,所述第一信息包括以下至少一项:
15.根据权利要求14所述的方法,其特征在于,所述第一指示信息指示所述第一设备、所述第二设备或第三设备对AI网络模型进行压缩。
16.根据权利要求14所述的方法,其特征在于,所述第二设备发送目标AI网络模型的相关信息,包括:
17.根据权利要求15所述的方法,其特征在于,在所述第二设备不具有与所述第一信息匹配的AI网络模型,且所述第一指示信息指示所述第二设备对AI网络模型进行压缩的情况下,所述方法还包括:
18.根据权利要求15所述的方法,其特征在于,所述第二设备根据所述第一信息发送第一AI网络模型的相关参数,包括:
19.根据权利要求18所述的方法,其特征在于,所述第三信息包括以下至少一项:对所述第一AI网络模型进行压缩时使用的AI网络模型压缩方法和AI网络模型压缩相关的限制信息。
20.根据权利要求18所述的方法,其特征在于,在所述第二设备向所述第一设备或所述第三设备发送所述第一AI网络模型的相关信息和所述第三信息之后,所述方法还包括:
21.根据权利要求18所述的方法,其特征在于,在所述第二设备向所述第一设备或所述第三设备发送所述第一AI网络模型的相关信息和所述第三信息之后,所述方法还包括:
22.根据权利要求21所述的方法,其特征在于,在所述匹配结果表示所述第二AI网络模型与所述第一信息不匹配的情况下,所述方法还包括:
23.根据权利要求21所述的方法,其特征在于,在所述匹配结果表示所述第二AI网络模型与所述第一信息不匹配的情况下,所述方法还包括:
24.一种人工智能AI网络模型交互装置,其特征在于,应用于第一设备,所述装置包括:
25.一种人工智能AI网络模型交互装置,其特征在于,应用于第二设备,所述装置包括:
26.一种通信设备,其特征在于,包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如权利要求1至23中任一项所述的人工智能AI网络模型交互方法的步骤。
27.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1至23中任一项所述的人工智能AI网络模型交互方法的步骤。
...【技术特征摘要】
1.一种人工智能ai网络模型交互方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述第一设备获取目标ai网络模型的相关信息,包括:
3.根据权利要求1所述的方法,其特征在于,所述第一信息包括以下至少一项:
4.根据权利要求3所述的方法,其特征在于,所述第一指示信息指示所述第一设备、所述第二设备或第三设备对ai网络模型进行压缩。
5.根据权利要求4所述的方法,其特征在于,在所述第二设备不具有与所述第一信息匹配的ai网络模型,且所述第一指示信息指示所述第一设备对ai网络模型进行压缩的情况下,所述第一设备获取目标ai网络模型的相关信息,包括:
6.根据权利要求5所述的方法,其特征在于,所述第三信息包括以下至少一项:对所述第一ai网络模型进行压缩处理时采用的ai网络模型压缩方法和ai网络模型压缩相关的限制信息。
7.根据权利要求5所述的方法,其特征在于,在所述第一设备根据所述第三信息对所述第一ai网络模型进行压缩处理,得到所述第二ai网络模型之后,所述方法还包括:
8.根据权利要求3所述的方法,其特征在于,在所述第二设备具有与所述第一信息匹配的ai网络模型的情况下,所述第一设备获取目标ai网络模型的相关信息,包括:
9.根据权利要求5所述的方法,其特征在于,在所述第一设备获取到由所述第一设备或第三设备压缩得到的第二ai网络模型的情况下,所述方法还包括:
10.根据权利要求9所述的方法,其特征在于,在所述匹配结果表示所述第二ai网络模型与所述第一信息不匹配的情况下,所述方法还包括:
11.根据权利要求9所述的方法,其特征在于,在所述匹配结果表示所述第二ai网络模型与所述第一信息不匹配的情况下,所述方法还包括:
12.一种人工智能ai网络模型交互方法,其特征在于,包括:
13.根据权利要求12所述的方法,其特征在于,所述目标ai网络模型为压缩后的ai网络模型或未压缩的ai网络模型。
14.根据权利要求12所述的方法,其特征在于,所述第一信息包括以下至少一项:
15.根据权利要求14所述的方法,其特征在于,所述第...
【专利技术属性】
技术研发人员:孙布勒,
申请(专利权)人:维沃移动通信有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。