用于CDN平台的业务处理方法及CDN系统技术方案

本发明专利技术实施方式涉及通信技术领域，公开了一种用于CDN平台的业务处理方法，该方法包括：获取终端设备发起的业务请求，其中，所述业务请求包括请求的机器学习模型、CDN计算标识和/或待处理数据，若根据所述CDN计算标识确定为需要计算，则采用所述请求的机器学习模型对所述待处理数据进行计算，并将计算的结果返回至所述终端设备；若根据所述CDN计算标识确定为不需要计算，则将所述请求的机器学习模型返回至所述终端设备。本发明专利技术实施方式还提供了一种CDN系统。本发明专利技术实施方式提供的用于CDN平台的业务处理方法及CDN系统，可以提高低算力的终端设备的人工智能水平和高算力的终端设备的模型应用的灵活性。

Business processing method and CDN system for CDN platform

【技术实现步骤摘要】
用于CDN平台的业务处理方法及CDN系统
本专利技术涉及通信
，特别涉及一种用于CDN平台的业务处理方法及CDN系统。
技术介绍
随着科技的不断发展和5G时代的到来，基于机器学习的人工智能应用越来越广泛。然而，对于一些低算力的终端设备(例如摄像头、音响等)而言，由于本身的计算能力有限，难以应用人工智能应用来进行终端设备数据的分析、计算及进一步的控制，人工智能水平较低；而对于一些高算力的终端设备而言，由于其使用的机器学习模型均为厂商定制的模型，无法应用厂商定制外的机器学习模型，模型应用的灵活性较低。
技术实现思路
本专利技术实施方式的目的在于提供一种用于CDN平台的业务处理方法及CDN系统，可以提高低算力的终端设备的人工智能水平和高算力的终端设备的模型应用的灵活性。为解决上述技术问题，本专利技术的实施方式提供了一种用于CDN平台的业务处理方法，包含以下步骤：获取终端设备发起的业务请求，其中，业务请求包括请求的机器学习模型、CDN计算标识和/或待处理数据，请求的机器学习模型是指请求使用或请求返回的机器学习模型；若根据CDN计算标识确定为需要计算，则采用请求的机器学习模型对待处理数据进行计算，并将计算的结果返回至终端设备；若根据CDN计算标识确定为不需要计算，则将请求的机器学习模型返回至终端设备。本专利技术的实施方式还提供了一种CDN系统，包括CDN服务器，CDN服务器包括负载均衡模块、反向代理服务器和缓存服务器；负载均衡模块，用于获取终端设备发起的业务请求，并将业务请求分配至反向代理服务器，其中，业务请求包括请求的机器学习模型、CDN计算标识和/或待处理数据；反向代理服务器，用于对业务请求重定向至缓存服务器；缓存服务器，用于当根据CDN计算标识确定为需要计算时，采用请求的机器学习模型对待处理数据进行计算，并将计算的结果返回至终端设备；当根据CDN计算标识确定为不需要计算时，将请求的机器学习模型返回至终端设备。本专利技术实施方式相对于现有技术而言，根据CDN计算标识来确定是否需计算，当需要计算时，采用请求的机器学习模型对待处理数据计算后返回计算结果；当不需要计算时，将请求的机器学习模型返回至终端设备。由于低算力的终端设备可以利用CDN平台的强大计算能力对待处理数据进行计算，获取计算的结果用以进一步的控制，因此可以提高低算力的终端设备的人工智能的水平；而高算力的终端设备可以向CDN平台获取厂商定制的机器学习模型，也可以获取厂商定制外的机器学习模型，因此可以提高高算力的终端设备的模型应用的灵活性；另外，高算力的终端设备还可以直接应用CDN平台提供的机器学习模型进行计算并获取计算的结果，进一步加强高算力的终端设备在机器学习应用的能力。另外，若根据CDN计算标识确定为需要计算，则采用请求的机器学习模型对待处理数据进行计算，包括：若根据CDN计算标识确定为需要计算，则判断请求的机器学习模型是否已在加载队列中；若请求的机器学习模型已在加载队列中，则采用加载队列中的请求的机器学习模型对待处理数据进行计算。通过采用加载队列中的请求的机器学习模型对待处理数据进行计算，可以避免机器学习模型的重复加载，也可以避免反复加载机器学习模型带来的时间和资源损耗，提高CDN平台资源的利用率。另外，在判断请求的机器学习模型是否已在加载队列中之后，还包括：若请求的机器学习模型不在加载队列中，则判断请求的机器学习模型是否命中缓存；若请求的机器学习模型命中缓存，则获取缓存中的请求的机器学习模型；若请求的机器学习模型未命中缓存，则从机器学习模型提供方获取请求的机器学习模型；加载请求的机器学习模型对待处理数据进行计算。通过对命中缓存的请求的机器学习模型，加载缓存中的机器学习模型进行运算，可以加快对终端设备的响应；而对未命中缓存的请求的机器学习模型，先从机器学习模型提供方获取请求的机器学习模型后再进行计算，可以拓展CDN平台可以使用的机器学习模型，保证根据终端设备的请求进行相应的机器学习模型的计算并返回计算结果。另外，加载请求的机器学习模型对待处理数据进行计算，包括：判断业务请求中是否存在GPU计算标识；若业务请求中存在GPU计算标识，则采用GPU加载请求的机器学习模型对待处理数据进行计算。通过采用GPU加载请求的机器学习模型对待处理数据进行计算，可以加快机器学习模型的运算速度，更快反馈计算结果，提高CDN平台的计算能力；由于部分机器学习模型对计算能力要求较高，需要GPU计算能力的支持，因此采用GPU加载机器学习模型，可以使CDN平台支持更多的机器学习模型。另外，若根据CDN计算标识确定为不需要计算，则将请求的机器学习模型返回至终端设备，包括：若根据CDN计算标识确定为不需要计算，则判断请求的机器学习模型是否命中缓存；若请求的机器学习模型命中缓存，则将命中的缓存文件返回至终端设备；若请求的机器学习模型未命中缓存，则从机器学习模型提供方获取请求的机器学习模型对应的模型文件，将模型文件返回至终端设备。通过对请求的机器学习模型是否命中缓存的判断，当命中缓存时，将命中缓存的请求的机器学习模型的缓存文件直接返回至终端设备，可以加快对终端设备的业务请求的响应；而当未命中缓存时，从机器学习模型提供方获取请求的机器学习模型的模型文件并返回至终端设备，可以保证对终端设备的业务请求的响应，拓宽终端设备可以使用的机器学习模型的范围。另外，缓存服务器还用于：当根据CDN计算标识确定为需要计算时，判断请求的机器学习模型是否已在加载队列中；当请求的机器学习模型已在加载队列中时，采用加载队列中的请求的机器学习模型对待处理数据进行计算。另外，缓存服务器还用于：当请求的机器学习模型不在加载队列中时，判断请求的机器学习模型是否命中缓存；当请求的机器学习模型命中缓存时，则获取缓存中的请求的机器学习模型；当请求的机器学习模型未命中缓存时，从机器学习模型提供方获取请求的机器学习模型；加载请求的机器学习模型对待处理数据进行计算。另外，CDN服务器还包括GPU，缓存服务器还用于：判断业务请求中是否存在GPU计算标识；当业务请求中存在GPU计算标识时，采用GPU加载请求的机器学习模型对待处理数据进行计算。另外，缓存服务器还用于：当根据CDN计算标识确定为不需要计算时，判断请求的机器学习模型是否命中缓存；当请求的机器学习模型命中缓存时，将命中的缓存文件返回至终端设备；当请求的机器学习模型未命中缓存时，从机器学习模型提供方获取请求的机器学习模型对应的模型文件，将模型文件返回至终端设备。附图说明一个或多个实施例通过与之对应的附图中的图片进行示例性说明，这些示例性说明并不构成对实施例的限定。图1是本专利技术第一实施方式提供的用于CDN平台的业务处理方法的流程示意图；图2是本专利技术第一实施方式提供的用于CDN平台的业务处理方法中S102细化步骤的流程示意图；图3是本专利技术第一实施方式提供的用于CDN平台的业务处理方法中S1021之后步骤的流程示意图；图4是本专利技术第一实施方式提供的用于CDN平台的业务处理方法中本文档来自技高网...

【技术保护点】
1.一种用于CDN平台的业务处理方法，其特征在于，包括：/n获取终端设备发起的业务请求，其中，所述业务请求包括请求的机器学习模型、CDN计算标识和/或待处理数据，所述请求的机器学习模型为所述终端设备请求使用或请求返回的机器学习模型；/n若根据所述CDN计算标识确定为需要计算，则采用所述请求的机器学习模型对所述待处理数据进行计算，并将计算的结果返回至所述终端设备；/n若根据所述CDN计算标识确定为不需要计算，则将所述请求的机器学习模型返回至所述终端设备。/n

【技术特征摘要】
1.一种用于CDN平台的业务处理方法，其特征在于，包括：
获取终端设备发起的业务请求，其中，所述业务请求包括请求的机器学习模型、CDN计算标识和/或待处理数据，所述请求的机器学习模型为所述终端设备请求使用或请求返回的机器学习模型；
若根据所述CDN计算标识确定为需要计算，则采用所述请求的机器学习模型对所述待处理数据进行计算，并将计算的结果返回至所述终端设备；
若根据所述CDN计算标识确定为不需要计算，则将所述请求的机器学习模型返回至所述终端设备。


2.根据权利要求1所述的用于CDN平台的业务处理方法，其特征在于，所述若根据所述CDN计算标识确定为需要计算，则采用所述请求的机器学习模型对所述待处理数据进行计算，包括：
若根据所述CDN计算标识确定为需要计算，则判断所述请求的机器学习模型是否已在加载队列中；
若所述请求的机器学习模型已在所述加载队列中，则采用加载队列中的所述请求的机器学习模型对所述待处理数据进行计算。


3.根据权利要求2所述的用于CDN平台的业务处理方法，其特征在于，在所述判断所述请求的机器学习模型是否已在加载队列中之后，还包括：
若所述请求的机器学习模型不在所述加载队列中，则判断所述请求的机器学习模型是否命中缓存；
若所述请求的机器学习模型命中缓存，则获取缓存中的所述请求的机器学习模型；
若所述请求的机器学习模型未命中缓存，则从机器学习模型提供方获取所述请求的机器学习模型；
加载所述请求的机器学习模型对所述待处理数据进行计算。


4.根据权利要求3所述的用于CDN平台的业务处理方法，其特征在于，加载所述请求的机器学习模型对所述待处理数据进行计算，包括：
判断所述业务请求中是否存在GPU计算标识；
若所述业务请求中存在所述GPU计算标识，则采用GPU加载所述请求的机器学习模型对所述待处理数据进行计算。


5.根据权利要求1所述的用于CDN平台的业务处理方法，其特征在于，所述若根据所述CDN计算标识确定为不需要计算，则将所述请求的机器学习模型返回至所述终端设备，包括：
若根据所述CDN计算标识确定为不需要计算，则判断所述请求的机器学习模型是否命中缓存；
若所述请求的机器学习模型命中缓存，则将命中的缓存文件返回至所述终端设备；
若所述请求的机器学习模型未命中缓存，则从机器学习模型提供方获取所述请求的机器学习模型对应的模型文件，将所述...

【专利技术属性】
技术研发人员：张雨金，张文波，马磊，
申请(专利权)人：中移杭州信息技术有限公司，中国移动通信集团有限公司，
类型：发明
国别省市：浙江;33