模型服务的更新方法、装置及存储介质制造方法及图纸

本公开涉及一种模型服务的更新方法、装置及存储介质，上述方法包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。采用上述技术手段，解决现有技术中，只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。模型服务的问题。模型服务的问题。

【技术实现步骤摘要】
模型服务的更新方法、装置及存储介质


[0001]本公开涉及互联网
，尤其涉及一种模型服务的更新方法、装置及存储介质。

技术介绍

[0002]随着人工智能技术的广泛应用，算法模型工程化工作的重要性正在日益突出。在语音人工智能领域中，随着电话系统作为整个语音服务输入端的接入案例越来越多，实现语音模型服务的无损上线，成为整个语音工程的重要课题。传统技术是基于业务请求更新模型服务，但是更新模型服务需要记录当前语音流所属的会话和上下文信息，每个上下文信息会记录当前所属的会话在整个请求过程中的语音流片段和配置信息。而对于每一个会话存在多次业务请求，并且每次请求会上传整个语音流的不同片段信息，所以更新模型服务应该基于会话的维度，而不是基于业务请求的维度。
[0003]在实现本公开构思的过程中，专利技术人发现相关技术中至少存在如下技术问题：只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。

技术实现思路

[0004]为了解决上述技术问题或者至少部分地解决上述技术问题，本公开的实施例提供了一种模型服务的更新方法、装置及本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型服务的更新方法，其特征在于，包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。2.根据权利要求1所述的方法，其特征在于，所述通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，包括：在接收到模型上线请求的情况下，在所述管理中心与备用缓存服务之间建立第二通道，其中，所述备用缓存服务与所述模型服务存在对应关系；通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务；通过所述第二通道将属于所述当前会话之后的回话的多个业务请求发送到所述备用缓存服务。3.根据权利要求2所述的方法，其特征在于，所述通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务之后，所述方法还包括：断开所述第一通道；将所述当前会话的多个业务请求携带的所述多个音频流片段组成所述完整音频流，使用所述完整音频流更新所述模型服务。4.根据权利要求3所述的方法，其特征在于，所述使用所述完整音频流更新所述模型服务之后，所述方法还包括：在所述管理中心与所述模型服务之间重新建立所述第一通道；通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务；通过所述第一通道将属于所述当前会话之后的回话的多个业务请求发送到所述模型服务。5.根据权利要求4所述的方法，其特征在于，所述通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务之后，所述方法还包括：断开所述第二通道；在下一次更新所述模...

【专利技术属性】
技术研发人员：崔午阳，
申请(专利权)人：京东科技信息技术有限公司，
类型：发明
国别省市：