模型服务的更新方法、装置及存储介质制造方法及图纸

本公开涉及一种模型服务的更新方法、装置及存储介质，上述方法包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。采用上述技术手段，解决现有技术中，只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。模型服务的问题。模型服务的问题。

【技术实现步骤摘要】
模型服务的更新方法、装置及存储介质


[0001]本公开涉及互联网
，尤其涉及一种模型服务的更新方法、装置及存储介质。

技术介绍

[0002]随着人工智能技术的广泛应用，算法模型工程化工作的重要性正在日益突出。在语音人工智能领域中，随着电话系统作为整个语音服务输入端的接入案例越来越多，实现语音模型服务的无损上线，成为整个语音工程的重要课题。传统技术是基于业务请求更新模型服务，但是更新模型服务需要记录当前语音流所属的会话和上下文信息，每个上下文信息会记录当前所属的会话在整个请求过程中的语音流片段和配置信息。而对于每一个会话存在多次业务请求，并且每次请求会上传整个语音流的不同片段信息，所以更新模型服务应该基于会话的维度，而不是基于业务请求的维度。
[0003]在实现本公开构思的过程中，专利技术人发现相关技术中至少存在如下技术问题：只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。

技术实现思路

[0004]为了解决上述技术问题或者至少部分地解决上述技术问题，本公开的实施例提供了一种模型服务的更新方法、装置及存储介质，以至少解决现有技术中，只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。
[0005]本公开的目的是通过以下技术方案实现的：
[0006]第一方面，本公开的实施例提供了一种模型服务的更新方法，包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。
[0007]在一个示例性实施例中，所述通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，包括：在接收到模型上线请求的情况下，在所述管理中心与备用缓存服务之间建立第二通道，其中，所述备用缓存服务与所述模型服务存在对应关系；通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务；通过所述第二通道将属于所述当前会话之后的回话的多个业务请求发送到所述备用缓存服务。
[0008]在一个示例性实施例中，所述通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务之后，所述方法还包括：断开所述第一通道；将所述当前会话的多个业务请求携带的所述多个音频流片段组成所述完整音频流，使用所述完整音频流更新所述模型服务。
[0009]在一个示例性实施例中，所述使用所述完整音频流更新所述模型服务之后，所述
方法还包括：在所述管理中心与所述模型服务之间重新建立所述第一通道；通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务；通过所述第一通道将属于所述当前会话之后的回话的多个业务请求发送到所述模型服务。
[0010]在一个示例性实施例中，所述通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务之后，所述方法还包括：断开所述第二通道；在下一次更新所述模型服务时，根据所述备用缓存服务中的数据更新所述模型服务。
[0011]在一个示例性实施例中，所述在下一次更新所述模型服务时，根据所述备用缓存服务中的数据更新所述模型服务，包括：将所述备用缓存服务中的多个业务请求携带的所述多个音频流片段组成所述完整音频流；使用所述完整音频流更新所述模型服务。
[0012]在一个示例性实施例中，所述使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务，包括：根据所述请求标识计算所述业务请求的第一哈希值；获取多个模型服务的节点信息，并根据所述节点信息计算所述多个模型服务的第二哈希值；根据所述第一哈希值和所述第二哈希值从所述多个模型服务中确定所述会话对应的模型服务。
[0013]在一个示例性实施例中，所述将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务，包括：根据所述模型服务接收所述多个业务请求的顺序或者所述多个音频流片段的标识信息，将所述多个音频流片段组成所述完整音频流；使用所述完整音频流更新所述模型服务内的一个或者多个模型。
[0014]第二方面，本公开的实施例提供了一种模型服务的更新装置，包括：接收模块，用于通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；确定模块，用于使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；发送模块，用于通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；更新模块，用于将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。
[0015]第三方面，本公开的实施例提供了一种电子设备。上述电子设备包括处理器、通信接口、存储器和通信总线，其中，处理器、通信接口和存储器通过通信总线完成相互间的通信；存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序时，实现如上所述的模型服务的更新方法或图像处理的方法。
[0016]第四方面，本公开的实施例提供了一种计算机可读存储介质。上述计算机可读存储介质上存储有计算机程序，上述计算机程序被处理器执行时实现如上所述的模型服务的更新方法或图像处理的方法。
[0017]本公开实施例提供的上述技术方案与现有技术相比至少具有如下优点的部分或全部：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。因为，本公开实施例可以通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，将多个业务请求携带的多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务，因此，采用上述技术手段，可以解决现有技术中，只可以基于业务请求更新模型服务，不能基于会话更新模型服务
的问题，进而提供一种基于会话维度更新模型服务的方法。
附图说明
[0018]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
[0019]为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
[0020]图1示意性示出了本公开实施例一种模型服务的更新方法的计算机终端的硬件结构框图；
[0021]图2示意性示出了本公开实施例的一种模型服务的更新方法的流程图；
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型服务的更新方法，其特征在于，包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。2.根据权利要求1所述的方法，其特征在于，所述通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，包括：在接收到模型上线请求的情况下，在所述管理中心与备用缓存服务之间建立第二通道，其中，所述备用缓存服务与所述模型服务存在对应关系；通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务；通过所述第二通道将属于所述当前会话之后的回话的多个业务请求发送到所述备用缓存服务。3.根据权利要求2所述的方法，其特征在于，所述通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务之后，所述方法还包括：断开所述第一通道；将所述当前会话的多个业务请求携带的所述多个音频流片段组成所述完整音频流，使用所述完整音频流更新所述模型服务。4.根据权利要求3所述的方法，其特征在于，所述使用所述完整音频流更新所述模型服务之后，所述方法还包括：在所述管理中心与所述模型服务之间重新建立所述第一通道；通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务；通过所述第一通道将属于所述当前会话之后的回话的多个业务请求发送到所述模型服务。5.根据权利要求4所述的方法，其特征在于，所述通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务之后，所述方法还包括：断开所述第二通道；在下一次更新所述模...

【专利技术属性】
技术研发人员：崔午阳，
申请(专利权)人：京东科技信息技术有限公司，
类型：发明
国别省市：