System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 应用中使用内联实时机器学习模型的推断制造技术_技高网

应用中使用内联实时机器学习模型的推断制造技术

技术编号:44099405 阅读:29 留言:0更新日期:2025-01-21 12:32
描述了用于使用在应用内执行的代码段利用机器学习(ML)模型基于应用数据推断结果的示例。可以在执行期间将代码段动态加载到应用中。控制器基于该代码段的扩展伯克利包过滤器eBPF字节码,验证该代码段满足用于在该应用内执行的安全要求。执行应用的计算设备将经验证的代码段加载到应用的库中。应用执行经验证的代码段以将应用数据应用于机器学习模型以推断结果。ML机器学习模型可以由代码段的eBPF代码实现,或者代码段可以包括对机器学习模型的调用以及针对机器学习模型的序列化表示的映射,机器学习模型的类型由应用的控制器支持。计算设备可以基于序列化表示来重建ML模型。

【技术实现步骤摘要】
【国外来华专利技术】


技术介绍

1、无线电接入网络(ran)可以向多个用户设备提供对网络的无线接入。用户设备可以与基站进行无线通信,基站将该通信转发到核心网。通常,ran中的基站由位于包括天线的无线电单元附近的专用处理硬件(例如,嵌入式系统)来实现。基站可以针对一个或多个小区执行包括物理(phy)层和媒体访问控制(mac)层处理的低层处理。为ran中的每个基站部署专用处理硬件可能会产生相关成本,特别是对于包括具有相对较小覆盖区域的小型小区的ran而言。另外,专用处理硬件可能是针对小区的单故障点。

2、虚拟化无线接入网可以利用具有通用计算资源的边缘数据中心来为一个或多个小区执行ran处理。也就是说,虚拟化无线电接入网络并非在专用硬件上本地执行phy和mac层处理,而是可以将来自无线电单元的无线电信号转发到边缘数据中心以进行处理,并且类似地将信号从边缘数据中心转发到无线电单元以进行无线传输。在一个特定示例中,云计算环境可以用于提供移动边缘计算(mec),其中移动网络的某些功能可以被提供为云计算环境中节点上的工作负载。在mec中,集中式单元(cu)可以在后端节点中实现,一个或多个分布式单元(du)可以在中间节点中实现,并且各种远端单元ru(可以提供移动网络的基站或其他ran节点的至少phy和/或mac层)可以部署在边缘服务器处。ru可以经由一个或多个du与cu进行通信。在示例中,du可以为ran提供更高的网络层的功能,诸如无线电链路控制(rlc)或分组数据汇聚协议(pdcp)层功能。ru可以为各种下游设备(例如用户设备(ue)、物联网(iot)设备等)接入cu提供便利。

3、因为边缘数据中心利用通用计算资源,所以虚拟化ran可以为基站处理提供可扩展性和容错。例如,边缘数据中心可以基于工作负载为与边缘数据中心相关联的无线电单元分配可变数目的计算资源(例如,多个服务器)以执行phy层处理。此外,虚拟化ran可以在数据中心处实现多层ran处理,使得能够收集多个数据馈送。


技术实现思路

1、以下给出了一个或多个方面的简化概述,以便提供对这些方面的基本理解。该概述不是所有预期方面的广泛概述,并且旨在既不标识所有方面的关键元素也不标识任何或所有方面的范围。其唯一目的是以简化形式呈现一个或多个方面的一些概念,作为稍后呈现的更详细描述的序言。

2、在一些方面,本文描述的技术涉及一种在应用内执行机器学习模型的方法,包括:基于代码段的扩展伯克利包过滤器(ebpf)字节码,验证代码段满足用于在应用内执行的安全要求;将经验证的代码段加载到应用的挂钩点中;以及执行经验证的代码段以将应用数据应用于机器学习模型以推断结果。

3、在一些方面,本文描述的技术涉及一种方法,其中代码段包括实现预训练的机器学习模型的代码。

4、在一些方面,本文描述的技术涉及一种方法,其中代码段包括对机器学习模型的调用以及针对机器学习模型的序列化表示的映射,机器学习模型的类型与应用的控制器支持的多个机器学习模型类型中的一个机器学习模型类型相对应。

5、在一些方面,本文描述的技术涉及一种方法,其中加载经验证的代码段包括根据类型来确定机器学习模型的序列化表示是可解析的。

6、在一些方面,本文描述的技术涉及一种方法,其中由控制器支持的多个机器学习模型类型包括以下中的两项或更多项:随机森林模型、长短期记忆(lstm)模型、卷积神经网络(cnn)或循环神经网络(rnn)模型。

7、在一些方面,本文描述的技术涉及一种方法,其中加载经验证的代码段包括基于机器学习模型的序列化表示在分配给应用的存储器内重建机器学习模型。

8、在一些方面,本文描述的技术涉及一种方法,其中对机器学习模型的调用包括针对序列化表示的映射和数据结构,数据结构包括应用数据作为输入参数并且返回结果。

9、在一些方面中,本文描述的技术涉及一种方法,其还包括由代码段存储结果,以在应用外访问。

10、在一些方面中,本文描述的技术涉及一种方法,其还包括由应用基于结果做出决策。

11、在一些方面,本文描述的技术涉及一种方法,其中该应用是虚拟化无线电接入网(vran)功能。

12、在一些方面,本文描述的技术涉及一种用于在应用内执行机器学习模型的装置,包括:存储器,存储计算机可执行指令;以及至少一个处理器,其被配置为执行指令以:接收经编译和经验证的代码段,其中代码段的扩展伯克利包过滤器(ebpf)已经被验证满足用于在应用内执行的安全要求;将经验证的代码段加载到应用的挂钩点中;以及执行经验证的代码段以将应用数据应用于机器学习模型以推断结果。

13、在一些方面,本文描述的技术涉及一种装置,其中代码段包括实现预训练的机器学习模型的代码。

14、在一些方面,本文描述的技术涉及一种装置,其中代码段包括对机器学习模型的调用以及针对机器学习模型的序列化表示的映射,机器学习模型的类型与应用的控制器支持的多个机器学习模型类型中的一个机器学习模型类型相对应。

15、在一些方面,本文描述的技术涉及一种装置,其中至少一个处理器被配置为根据类型来确定机器学习模型的序列化表示是可解析的。

16、在一些方面,本文描述的技术涉及一种装置,其中由控制器支持的多个机器学习模型类型包括以下中的两项或更多项:随机森林模型、长短期记忆(lstm)模型、卷积神经网络(cnn)或循环神经网络(rnn)模型。

17、在一些方面,本文描述的技术涉及一种装置,其中至少一个处理器被配置为:基于机器学习模型的序列化表示在分配给应用的存储器内重建机器学习模型。

18、在一些方面,本文描述的技术涉及一种装置,其中对机器学习模型的调用包括用于序列化表示的映射和数据结构,数据结构包括应用数据作为输入参数并且返回结果。

19、在一些方面,本文描述的技术涉及一种装置,其中执行代码段的至少一个处理器被配置为将结果存储在输出模式映射中,以用于在应用之外进行访问。

20、在一些方面,本文中所描述的技术涉及一种装置,其中执行应用的处理器被配置为基于结果做出决策。

21、在一些方面,本文描述的技术涉及一种装置,其中应用是虚拟化无线电接入网(vran)功能。

22、为了实现前述和相关的目的,一个或多个方面包括下文中充分描述并且在权利要求中特别指出的特征。以下描述和附图详细阐述了一个或多个方面的某些说明性特征。然而,这些特征仅指示可以采用各个方面的原理的各种方式中的一些,并且该描述旨在包括所有这样的方面及其等同物。

本文档来自技高网...

【技术保护点】

1.一种在应用内执行机器学习模型的方法,包括:

2.根据权利要求1所述的方法,其中所述代码段包括实现预训练的机器学习模型的代码。

3.根据权利要求1所述的方法,其中所述代码段包括对机器学习模型的调用以及针对所述机器学习模型的序列化表示的映射,所述机器学习模型的类型与所述应用的控制器支持的多个机器学习模型类型中的一个机器学习模型类型相对应。

4.根据权利要求3所述的方法,其中加载经验证的所述代码段包括根据所述类型来确定所述机器学习模型的所述序列化表示是可解析的。

5.根据权利要求3所述的方法,其中由所述控制器支持的所述多个机器学习模型类型包括以下中的两项或更多项:随机森林模型、长短期记忆(LSTM)模型、卷积神经网络(CNN)或循环神经网络(RNN)模型。

6.根据权利要求3所述的方法,其中加载经验证的所述代码段包括基于所述机器学习模型的所述序列化表示在分配给所述应用的存储器内重建所述机器学习模型。

7.根据权利要求3所述的方法,其中对所述机器学习模型的所述调用包括针对所述序列化表示的所述映射和数据结构,所述数据结构包括应用数据作为输入参数并返回所述结果。

8.根据权利要求1所述的方法,还包括由所述代码段存储所述结果,以在所述应用外访问。

9.根据权利要求1所述的方法,还包括由所述应用基于所述结果做出决策。

10.根据权利要求1所述的方法,其中所述应用是虚拟化无线电接入网(vRAN)功能。

11.一种用于在应用内执行机器学习模型的装置,包括:

12.根据权利要求11所述的装置,其中所述代码段包括实现预训练的机器学习模型的代码。

13.根据权利要求11所述的装置,其中所述代码段包括对机器学习模型的调用以及针对所述机器学习模型的序列化表示的映射,所述机器学习模型的类型与所述应用的控制器支持的多个机器学习模型类型中的一个机器学习模型类型相对应。

14.根据权利要求13所述的装置,其中所述至少一个处理器被配置为根据所述类型来确定所述机器学习模型的所述序列化表示是可解析的。

15.根据权利要求11所述的装置,其中所述应用是虚拟化无线电接入网(vRAN)功能。

...

【技术特征摘要】
【国外来华专利技术】

1.一种在应用内执行机器学习模型的方法,包括:

2.根据权利要求1所述的方法,其中所述代码段包括实现预训练的机器学习模型的代码。

3.根据权利要求1所述的方法,其中所述代码段包括对机器学习模型的调用以及针对所述机器学习模型的序列化表示的映射,所述机器学习模型的类型与所述应用的控制器支持的多个机器学习模型类型中的一个机器学习模型类型相对应。

4.根据权利要求3所述的方法,其中加载经验证的所述代码段包括根据所述类型来确定所述机器学习模型的所述序列化表示是可解析的。

5.根据权利要求3所述的方法,其中由所述控制器支持的所述多个机器学习模型类型包括以下中的两项或更多项:随机森林模型、长短期记忆(lstm)模型、卷积神经网络(cnn)或循环神经网络(rnn)模型。

6.根据权利要求3所述的方法,其中加载经验证的所述代码段包括基于所述机器学习模型的所述序列化表示在分配给所述应用的存储器内重建所述机器学习模型。

7.根据权利要求3所述的方法,其中对所述机器学习模型的所述调用包括针对所述序列化表示的所述...

【专利技术属性】
技术研发人员:X·富卡斯B·拉杜诺维克
申请(专利权)人:微软技术许可有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1