一种计算资源的分配方法和设备组成比例

本申请提供一种计算资源的分配方法和设备，涉及物联网技术领域，为边缘设备上的应用程序分配计算资源。该方法中，边缘设备可以根据第一应用程序发送的第一请求为该第一应用程序创建账户，还可以为该第一应用程序分配边缘设备上的至少一个AI芯片上的第一计算资源。基于该方案，边缘设备可以为挂载的应用程序创建账户，并为应用程序分配使用AI芯片的计算资源，从而可以管理应用程序使用AI芯片上的计算资源，可以减少因某一应用程序占用过多的计算资源，从而导致边缘设备上的计算资源不足而无法满足一些应用程序的计算需求的问题。法满足一些应用程序的计算需求的问题。法满足一些应用程序的计算需求的问题。

【技术实现步骤摘要】
一种计算资源的分配方法和设备


[0001]本申请涉及物联网
，尤其涉及一种计算资源的分配方法和设备。

技术介绍

[0002]随着物联网(internet of things，IoT)的蓬勃发展，边缘设备产生的数据量急剧增加，对网络带宽的要求也越来越高。边缘设备是指靠近物体或数据源头的设备。边缘计算(edge computing，EC)具有低延迟、节省带宽、保证数据隐私和安全等优点。相比传输到云端处理，使用边缘计算的边缘设备处理数据更安全、私密，响应时间更快。此外，边缘设备减少了与云端的通信，从而降低了成本。
[0003]与此同时，随着人工智能(artificial intelligence，AI)技术应用的越来越多，可以将AI技术应用在边缘设备上，以提高边缘设备的性能。在将AI技术应用在边缘设备上时，可以训练AI模型后并将AI模型上传至边缘设备上。处理器可以调用边缘设备上的AI模型用以对数据进行推理和计算。
[0004]目前，一个边缘设备可以挂载多个应用程序，并且可以存储多个应用程序对应的AI模型。但是，由于边缘设备上挂在了多个应用程序，在多个应用程序调用对应的AI模型进行推理和计算时，可能争抢边缘设备上的计算资源，同时可能会导致边缘设备上的计算资源不足而无法满足一些应用程序的计算需求，导致边缘设备上的计算资源被不合理的使用。

技术实现思路

[0005]本申请提供一种计算资源的分配方法和设备，用以对边缘设备上的应用程序计分配算资源，减少应用程序不合理使用边缘设备上的计算资源的问题。
[0006]第一方面，本申请实施例中提供一种计算资源的分配方法。该方法可以由本申请实施例提供的边缘设备执行，或者还可以由类似边缘设备的其他设备执行。示例性的，该边缘设备可以是网络设备。该方法中，边缘设备可以接收第一应用程序发送的第一请求。该第一请求是用于请求边缘设备为该第一应用程序创建账户的请求。边缘设备可以响应于第一请求，为该第一应用程序创建账户，还可以为该第一应用程序分配边缘设备上的至少一个AI芯片上的第一计算资源。
[0007]基于该方案，边缘设备可以为挂载的应用程序创建账户，并为应用程序分配使用AI芯片的计算资源，从而可以管理应用程序使用AI芯片上的计算资源，可以减少因某一应用程序占用过多的计算资源，从而导致边缘设备上的计算资源不足而无法满足一些应用程序的计算需求的问题。
[0008]在一种可能的实现方式中，边缘设备为该第一应用程序分配的第一计算资源的值可以是预置的值。比如，边缘设备可以为第一应用程序分配的第一计算资源的值可以是固定的值或者固定的比例，这里的固定的值或者比例可以是提前分配的。
[0009]基于该方案，边缘设备可以将AI芯片的计算资源分配给各个应用程序，可以让每
一个应用程序都能够使用AI芯片上的计算资源，可以减少某一应用占用过多计算资源的问题。
[0010]在另一种可能的实现方式中，第一应用程序发送的第一请求中可以包括该第一应用程序请求的计算资源的大小值。那么，边缘设备为该第一应用程序分配的第一计算资源的大小可以小于或等于所述请求的计算资源的大小值。
[0011]基于该方案，不同的应用程序所需的计算资源大小可能不同，边缘设备可以根据应用程序请求的计算资源的大小，为应用程序分配第一计算资源，可以尽可能的满足应用程序的计算资源需求。
[0012]在一种可能的实现方式中，边缘设备可以根据优先级信息为第一应用程序分配第一计算资源。示例性的，如果第一应用程序的优先级越高，则边缘设备为其分配的第一计算资源越大。这里的优先级信息可以是预先存储在边缘设备上的，也可以是第一应用程序发送给边缘设备的。
[0013]基于该方案，边缘设备可以为优先级高的应用程序分配较多的计算资源，可以优先满足优先级较高的应用程序的计算需求。
[0014]在一种可能的实现方式中，边缘设备可以响应于第一应用程序占用的计算资源超过第一计算资源，边缘设备可以限制第一应用程序占用AI芯片的计算资源量。限制后的计算资源量可以小于或等于第一计算资源。示例性的，边缘设备限制第一应用程序占用AI芯片的计算资源量，可以但不限于通过降低该第一应用程序的推理优先级实现，这里的推理优先级可以是第一应用程序相对于其他的应用程序调用边缘设备上的AI模型进行推理计算的优先级。或者，边缘设备也可以通过降低该第一应用程序的推理次数来实现限制第一应用程序占用AI芯片的计算资源量，这里的推理次数可以是每指定时长内的推理次数。
[0015]基于该方案，边缘设备可以监控第一应用程序占用AI芯片的计算资源，在第一应用程序占用的计算资源量超过第一计算资源时，可以限制该第一应用程序占用的计算资源，避免由于第一应用程序占用过多计算资源，而导致边缘设备的计算资源不足的问题，以满足其他的应用程序的计算需求。
[0016]在一种可能的实现方式中，边缘设备还可以响应于第二应用程序访问为该第一应用程序创建的账户，边缘设备可以对第二应用程序进行访问认证。边缘设备可以在第二应用程序的访问认证通过时，允许第二应用程序访问为该第一应用程序创建的账户，在第二应用程序的访问认证失败时，禁止第二应用程序访问为该第一应用程序创建的账户。
[0017]基于该方案，在第二应用程序想要访问为第一应用程序创建的账户时，边缘设备可以对第二应用程序进行访问认证，在访问认证失败时无法访问第一应用程序的账户，可以实现多个应用程序的访问隔离，提高应用程序之间访问的安全性。
[0018]在一种可能的实现方式中，边缘设备还可以接收第一应用程序上传的AI模型。其中，这里的AI模型的格式可以是边缘设备可用的格式。如果该AI模型的格式是边缘设备不可用的格式，那么边缘设备可以将该AI模型的格式转换为边缘设备可用的格式。
[0019]基于该方案，边缘设备可以在第一应用程序上传的AI模型的格式不可用时，对AI模型的格式进行转换，以使应用程序则可以调用边缘设备上的AI模型进行推理和计算。
[0020]在一种可能的实现方式中，边缘设备可以通过第一接口接收第一应用程序发送的第一请求。其中，第一接口是边缘设备提供的供第一应用程序和除第一应用程序外的其他
应用程序调用的接口。
[0021]基于该方案，挂载在边缘设备上的应用程序，都可以通过第一接口向边缘设备发送第一请求，可以通过第一接口实现与边缘设备的通信。
[0022]第二方面，提供了一种边缘设备，边缘设备包括用于执行第一方面或第一方面任一种可能实现方式中的计算资源的分配方法的各个模块和用于为所述边缘设备提供计算资源的至少一个AI芯片。
[0023]第三方面，提供了一种边缘设备，该边缘设备包括处理器、存储器和为所述边缘设备提供计算资源的至少一个AI芯片；所述存储器用于存储一个或多个计算机程序；当所述存储器存储的一个或多个计算机程序被所述至少一个处理器执行时，使得所述边缘设备能够实现上述第一方面及其第一方面任一可能设计的技术方案。
[0024]第四方面，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种计算资源的分配方法，其特征在于，包括：边缘设备接收第一应用程序发送的第一请求，所述第一请求用于请求所述边缘设备为所述第一应用程序创建账户；所述边缘设备响应于所述第一请求，为所述第一应用程序创建账户，并为所述第一应用程序分配所述边缘设备上的至少一个人工智能AI芯片上的第一计算资源。2.根据权利要求1所述的方法，其特征在于，所述第一计算资源的值是预置的值。3.根据权利要求1所述的方法，其特征在于，所述第一请求包括所述第一应用程序请求的计算资源，所述第一计算资源小于或等于所述请求的计算资源。4.根据权利要求1或2所述的方法，其特征在于，所述为所述第一应用程序分配所述边缘设备上的至少一个AI芯片上的第一计算资源，包括：所述边缘设备根据优先级信息为所述第一应用程序分配所述至少一个AI芯片上的第一计算资源。5.根据权利要求1-4任一所述的方法，其特征在于，还包括：响应于所述第一应用程序占用的计算资源超过所述第一计算资源，所述边缘设备限制所述第一应用程序占用所述至少一个AI芯片的计算资源量；其中，所述限制后的计算资源量小于或等于所述第一计算资源。6.根据权利要求1-5任一所述的方法，其特征在于，还包括：响应于第二应用程序访问所述账户，所述边缘设备对所述第二应用程序进行访问认证；响应于所述访问认证失败，所述边缘设备禁止所述第二应用程序访问所述账户。7.根据权利要求1-6任一所述的方法，其特征在于，还包括：所述边缘设备接收所述第一应用程序上传的AI模型；所述边缘设备将接收的所述AI模型的格式转换为所述边缘设备可用的格式。8.根据权利要求1-7任一所述的方法，其特征在于，所述边缘设备接收第一应用程序发送的第一请求，包括：所述边缘设备接收所述第一应用程序通过第一接口发送的所述第一请求；所述第一接口是所述边缘设备提供的供所述第一应用程序和除所述第一应用程序外的其他应用程序调用的接口。9.根据权利要求1-8任一所述的方法，其特征在于，所述边缘设备是网络设备。10.一种边缘设备，其特征在于，包括：通信单元，用于接收第一应用程序发送的第一请求，所述第一请求用于请求所述边缘设备为所述第一应用程序创建账户；处理单元，用于响应于所述第一请求，为所述第...

【专利技术属性】
技术研发人员：孙晶，王春桃，晏戎，陆楷，杨庆平，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：