【技术实现步骤摘要】
问答系统中的模型服务治理方法、装置和计算机设备
本申请涉及人工智能
,特别是涉及一种问答系统中的模型服务治理方法、装置、计算机可读存储介质和计算机设备。
技术介绍
随着人工智能技术的发展,出现了智能问答技术,在智能问答系统中,往往会使用机器学习模型、深度学习模型等方法对用户的问题进行理解、分析,再给出答案实现智能问答。然而,目前的智能问答方式,由于模型的性能和效果在不同时期会随着线上数据量的规模和数据的种类而发生变化,一方面导致在智能问答系统在线上的运营后,效果性能变的越来越差,维护成本也越来越大,另一方面,某些模型虽然预测效果好但是性能会比较差,如果线上的用户流量突增,很可能导致问答服务的不可用,无法保证智能问答系统的稳定运营。
技术实现思路
基于此,有必要针对无法保证智能问答系统的稳定运营的技术问题,提供一种问答系统中的模型服务治理方法、装置、计算机可读存储介质和计算机设备。一种问答系统中的模型服务治理方法,包括:接收问答数据,从模型流集合中选取优先级最高的目标模型流,对 ...
【技术保护点】
1.一种问答系统中的模型服务治理方法,包括:/n接收问答数据,从模型流集合中选取优先级最高的目标模型流,对所述问答数据进行问答处理;/n采集所述目标模型流在进行问答处理时的指标数据;/n当所述指标数据满足模型流切换指标条件时,从所述模型流集合中获取优先级次高的备选模型流;/n将所述目标模型流的问答数据分流至所述备选模型流进行问答处理。/n
【技术特征摘要】
1.一种问答系统中的模型服务治理方法,包括:
接收问答数据,从模型流集合中选取优先级最高的目标模型流,对所述问答数据进行问答处理;
采集所述目标模型流在进行问答处理时的指标数据;
当所述指标数据满足模型流切换指标条件时,从所述模型流集合中获取优先级次高的备选模型流;
将所述目标模型流的问答数据分流至所述备选模型流进行问答处理。
2.根据权利要求1所述的方法,其特征在于,所述接收问答数据,从模型流集合中选取优先级最高的目标模型流,对所述问答数据进行问答处理之前,还包括:
获取问答系统的业务场景信息,确定业务场景所需的数据处理模块;
配置多个包含各所述数据处理模块的数据处理流;
查找各所述数据处理模块对应的可选模型,根据所述数据处理流和所述可选模型,得到多个模型流;
获取测试数据,对多个模型流进行测试处理,得到各所述模型流的初始指标数据;
根据所述初始指标数据,确定各所述模型流的优先级,并将携带有优先级标识的模型流添加至模型流集合。
3.根据权利要求2所述的方法,其特征在于,所述配置多个包含各所述数据处理模块的数据处理流包括:
获取预设的流程编排方式,所述流程编排方式包括串行连接、并行连接以及判断执行连接;
采用不同的流程编排方式,将各所述数据处理模块进行连接,得到多个包含各所述数据处理模块的数据处理流。
4.根据权利要求2所述的方法,其特征在于,所述查找各所述数据处理模块对应的可选模型,根据所述数据处理流和所述可选模型,得到多个模型流包括:
查找各所述数据处理模块对应的可选模型;
从组件库中获取与所述可选模型对应的模型组件,所述模型组件携带有包括模型类别信息和模型版本信息的组件标识;
基于所述数据处理流,对所述携带有组件标识的模型组件进行排列组合,得到多个由所述模型组件构成的模型流。
5.根据权利要求4所述的方法,其特征在于,所述从组件库中获取与所述可选模型对应的模型组件,所述模型组件携带有包括模型类别信息和模型版本信息的组件标识之前,还包括:
根据所述问答系统中各数据处理流程进行模块划分;
获取划分得到的各数据处理模块对应的多个初始模型;
采用不同样本数据,对各所述初...
【专利技术属性】
技术研发人员:李正兴,
申请(专利权)人:深圳市腾讯信息技术有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。