一种模型预测系统及方法技术方案

本说明书提供一种模型预测系统及方法，将不同的模型服务资源模块进行隔离，使得不同的模型预测服务的CPU、内存等资源不会共享，降低了不同的模型预测服务之间的干扰。独立部署不同的模型服务资源模块，可以实现单独对某个模型预测服务进行缩容、扩容等管理，降低了合并部署的资源浪费。预测模型服务模块则可以实现模型预测服务的运行状态的管理，提高了预测服务的稳定性、灵活性和服务能力。

【技术实现步骤摘要】
一种模型预测系统及方法
本说明书属于计算机
，尤其涉及一种模型预测系统及方法。
技术介绍
现如今，机器学习越来越火，机器学习产出的模型更多的替换了传统的规则模型在线上业务使用，模型实时打分的能力需要有一个统一的架构来实现。模型预测服务可以实现在线实时预测，并且要保证服务本身的稳定，提供基本在线服务能力。现有技术中，在线预测服务一般是通过打包部署在一台应用服务器上面，多个服务占用同一分资源，服务之间可能会相互影响，比如一个服务占用内存太高，相应的会影响其他服务。并且，服务扩容比较麻烦，不同的服务扩容时，需要一起扩，导致不必要的资源浪费，并且使得在线服务能力不够灵活，不方便管理。
技术实现思路
本说明书目的在于提供一种模型预测系统及方法，实现了在线模型预测服务的灵活管理和运维。一方面本说明书实施例提供了一种模型预测系统，包括：模型服务资源模块，用于提供模型预测服务，不同的模型服务资源模块之间相互隔离；预测模型服务模块，用于维护所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，以及在检测到模型服务资源模块发生变化时，更新所述模型服务资源模块的运行状态，所述模型服务资源模块发生变化包括：模型服务资源模块的新增、删除、修改，以及模型服务资源模块提供的模型预测服务的开启和停止。进一步地，所述系统的另一个实施例中，不同的模型服务资源模块设置在不同的容器中。进一步地，所述系统的另一个实施例中，不同的模型服务资源模块设置在不同的虚拟机中。进一步地，所述系统的另一个实施例中，采用部署模板构建所述模型服务资源模块，所述部署模板包括：不同的编程语言对应的运行环境。进一步地，所述系统的另一个实施例中，所述模型服务资源模块支持java、c++、python中的至少一种编程语言。进一步地，所述系统的另一个实施例中，所述模型服务资源模块支持超文本传输协议、远程过程调用协议中的至少一种。进一步地，所述系统的另一个实施例中，所述预测模型服务模块具体用于：根据所述模型服务资源模块的注册信息，获得所述模型服务资源模块的部署设备信息，并将所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系进行存储。进一步地，所述系统的另一个实施例中，所述系统还包括客户端，用于向所述预测模型服务模块发送服务查询请求，查询所需服务对应的部署设备，根据查询结果，调用模型服务资源模块。进一步地，所述系统的另一个实施例中，所述系统还包括服务管控模块，用于对所述模型服务资源模块进行生命周期管理，所述生命周期管理包括：扩容、缩容、更新中的至少一种。进一步地，所述系统的另一个实施例中，所述服务管控模块具体用于：根据所述模型服务资源模块的负载信息，对所述模型服务资源模块进行扩容或缩容。另一方面，本说明书提供了一种模型预测系统，包括：模型服务引擎，用于提供模型预测服务，不同的模型服务引擎之间相互隔离；服务发现模块，用于构建所述模型服务引擎与所述模型服务引擎的部署设备之间的映射关系，以及更新所述模型服务引擎的运行状态、对所述模型服务引擎进行异常检测；服务管控平台，用于对所述模型服务引擎进行生命周期管理，所述生命周期管理包括：扩容、缩容、上下线、服务更新中的至少一种客户端，用于通过所述服务发现模块查询所述模型服务引擎与所述模型服务引擎的部署设备之间的映射关系，并调用所述模型服务引擎进行模型预测服务。再一方面，本说明书提供了一种模型预测方法，包括：通过客户端发起调用模型预测服务的请求信息；所述客户端根据所述请求信息，查询服务模型列表，获取所述请求信息中对应的模型服务资源模块的部署设备，所述服务模型列表中存储有模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，不同的模型服务资源模块之间相互隔离；所述客户端根据查询结果，调用所述模型服务资源模块进行模型预测服务，并返回预测结果。本说明书提供的模型预测系统及方法，将不同的模型服务资源模块进行隔离，使得不同的模型预测服务的CPU、内存等资源不会共享，降低了不同的模型预测服务之间的干扰。独立部署不同的模型服务资源模块，可以实现单独对某个模型预测服务进行缩容、扩容等管理，降低了合并部署的资源浪费。预测模型服务模块则可以实现模型预测服务的准确调用，以及模型预测服务的运行状态的统一管理，提高了预测服务的稳定性、灵活性和服务能力。附图说明为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。图1是本说明书一个实施例中模型预测系统模块示意图；图2是本说明书又一个实施例中模型预测系统的结构示意图；图3是本说明书一个实施例中模型预测系统的功能化模块示意图；图4是本说明书实施例中模型预测方法的流程示意图。具体实施方式为了使本
的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。模型可以表示用于描述可管世界的数学模型，本说明书实施例中的模型可以表示机器学期模型，机器学习模型可以通过对数据的学习训练获得。预测服务可以表示提供在线实时调用的服务，可以用于预测指定时间的数据，如：预测指定时间的交易量、预测指定用户的信用度等，可以通过模型打分的形式进行服务预测，预测服务的具体应用形式本说明书实施例不作具体限定。本说明书一个实施例中提供了一种模型预测系统，在一个系统中可以提供多个模型服务资源模块，不同的模型服务资源模块之间相互隔离，即各个模型服务资源模块的CPU(CentralProcessingUnit，中央处理器)、内存等资源不进行共享。每一个模型服务资源模块可以理解为一个模型，可以用于提供预测服务。通过将不同的模型服务资源模块进行隔离，可以实现按模型预测服务单个维度分配共享的资源数量，每个模型预测服务单独部署，可以单独进行服务的扩容、缩容等管理，避免了整体部署时的资源浪费，降低了不同的模型预测服务之间的干扰。本说明书实施例中的模型预测系统可以包括分布式系统、软件(应用)、模块、模块、服务器、客户端等并结合必要的实施硬件的装置。以下所使用的，术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管本说明书实施例所描述的系统较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。具体的，图1是本说明书一个实施例中模型预测系统模块示意图，如图1所示，本说明书一个实施例中提供的模型预测系统可以包括：模型服务资源模块102、预测模型服务模块104，其中：模型服务资源模块102，可以用于提供模型预测服务，不同的模型服务资源模块之间相互隔离；预测模型服务模块104，可以用于维护所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，以及在检测到模型服务资源模块发生变化时，更新所述模型服务资源模块的运行状态本文档来自技高网...

【技术保护点】
1.一种模型预测系统，包括：模型服务资源模块，用于提供模型预测服务，不同的模型服务资源模块之间相互隔离；预测模型服务模块，用于维护所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，以及在检测到模型服务资源模块发生变化时，更新所述模型服务资源模块的运行状态，所述模型服务资源模块发生变化包括：模型服务资源模块的新增、删除、修改，以及模型服务资源模块提供的模型预测服务的开启和停止。

【技术特征摘要】
1.一种模型预测系统，包括：模型服务资源模块，用于提供模型预测服务，不同的模型服务资源模块之间相互隔离；预测模型服务模块，用于维护所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，以及在检测到模型服务资源模块发生变化时，更新所述模型服务资源模块的运行状态，所述模型服务资源模块发生变化包括：模型服务资源模块的新增、删除、修改，以及模型服务资源模块提供的模型预测服务的开启和停止。2.如权利要求1所述的系统，不同的模型服务资源模块设置在不同的容器中。3.如权利要求1所述的系统，不同的模型服务资源模块设置在不同的虚拟机中。4.如权利要求1所述的系统，采用部署模板构建所述模型服务资源模块，所述部署模板包括：不同的编程语言对应的运行环境。5.如权利要求1所述的系统，所述模型服务资源模块支持java、c++、python中的至少一种编程语言。6.如权利要求1所述的系统，所述模型服务资源模块支持超文本传输协议、远程过程调用协议中的至少一种。7.如权利要求1所述的系统，所述预测模型服务模块具体用于：根据所述模型服务资源模块的注册信息，获得所述模型服务资源模块的部署设备信息，并将所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系进行存储。8.如权利要求1所述的系统，所述系统还包括客户端，用于向所述预测模型服务模块发送服务查询请求，查询所需服务对应的部署设备，根...

【专利技术属性】
技术研发人员：邢冰，乔彦辉，殷山，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY