一种组合模型配置方法及装置制造方法及图纸

技术编号:44207727 阅读:22 留言:0更新日期:2025-02-06 18:41
本说明书涉及计算机技术领域,提供了一种组合模型配置方法及装置。该方法包括:获取模型组合信息;利用所述模型组合信息,构建多种组合模型对应的对外接口,并生成对应的路由类数据;实时监听组合模型的动态上线请求或动态下线请求;根据所述动态上线请求,加载所述动态上线请求对应的目标路由类数据,并开启对应的对外接口;根据所述动态下线请求,判断运行中的路由类数据中是否存在与所述动态下线请求对应的目标路由类数据,并基于判断结果删除与所述动态下线请求对应的目标路由类数据,以及关闭对应的对外接口。通过本说明书实施例,能够随着业务需求的变化,实现对组合模型的快速高效地推理服务,提供可供实时调用的多种版本的模型组合。

【技术实现步骤摘要】

本说明书涉及计算机,尤其是涉及一种组合模型配置方法及装置


技术介绍

1、推理服务是把训练好的模型部署到线上,进行实时计算处理的过程,常规的单一模型在设计和训练时往往针对特定的任务和数据集进行优化,在面对复杂多变、数据形式多样的场景时,其推理准确性和效率往往无法达到预期,为了解决该问题,可以采用将多个模型进行组合的方式,实现多个模型之间的组合与协同,充分整合多个模型的优势,提高组合模型的推理准确率和效率,同时还能提高整体组合模型的灵活性及适应性,满足复杂多变的推理需求。

2、然而,现有的组合模型中各模型之间的关系复杂,为了满足不同的业务需求,需要将组合模型中各模型以不同的连接方式进行连接,但是随着业务需求的变化,组合模型中各模型对应的节点关系可能需要频繁调整修改,现有技术中常常利用人工的方式,对整个组合模型重新进行解析,并更新对应的代码、重新配置文件,这样的过程不仅耗时耗力,而且容易出错,导致效率低下。因此,亟需一种组合模型配置方法,能够随着业务需求的变化,实现对组合模型的快速高效地推理服务,提供可供实时调用的多种版本的模型组合,以准确获得预期本文档来自技高网...

【技术保护点】

1.一种组合模型配置方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,获取模型组合信息,包括:

3.根据权利要求2所述的方法,其特征在于,获取模型组合信息后,进一步包括:

4.根据权利要求1所述的方法,其特征在于,利用所述模型组合信息,构建多种组合模型对应的对外接口,并生成对应的路由类数据,包括:

5.根据权利要求1所述的方法,其特征在于,根据所述动态上线请求,加载所述动态上线请求对应的目标路由类数据,并开启对应的对外接口,包括:

6.根据权利要求1所述的方法,其特征在于,根据所述动态上线请求,加载所述...

【技术特征摘要】

1.一种组合模型配置方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,获取模型组合信息,包括:

3.根据权利要求2所述的方法,其特征在于,获取模型组合信息后,进一步包括:

4.根据权利要求1所述的方法,其特征在于,利用所述模型组合信息,构建多种组合模型对应的对外接口,并生成对应的路由类数据,包括:

5.根据权利要求1所述的方法,其特征在于,根据所述动态上线请求,加载所述动态上线请求对应的目标路由类数据,并开启对应的对外接口,包括:

6.根据权利要求1所述的方法,其特征在于,根据所述动态上线请求,加载所述动态上线请求对应的目标路由类数据,并开启对应的对外接口后,进一步包括:

7.根据权利要求1所述的方法,其特征在于,根据所述动态上线请求,加载所述动态上线请求对应的目标路由类数据,并开启对应的对外接口后,进一步包括:

8.根据权利要求1所述的方法,其特征在于,根据所述动态上线请求,加载所述动态上线请求对应的目标路由类数据,并开启对应的对外接口后,进一步包括:

9.根据权利要求1所述...

【专利技术属性】
技术研发人员:张铄查睿嘉裴亚民张洁张亚朋
申请(专利权)人:中国光大银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1