一种消息交互方法、装置、设备及介质制造方法及图纸

本申请公开了一种消息交互方法、装置、设备及介质，涉及计算机技术领域，包括：通过独立消息平台获取用户发送的目标交互请求，通过目标生成式预训练模型，以流式方式逐字或逐词生成与目标交互请求匹配的文本数据流；动态识别文本数据流中的候选分片位置，并对候选分片位置进行不同维度的评估，得到不同维度的评估得分，然后根据不同维度的评估得分确定目标消息分片；其中，不同维度的评估包括通信成本评估、语义完整性评估以及传输可靠性评估；对目标消息分片进行序列化标记，以确定目标消息分片的序列化顺序，根据序列化顺序向独立消息平台传输各所述目标消息分片。本申请解决了大模型长篇幅内容生成与独立消息实时性需求之间的矛盾。

【技术实现步骤摘要】

本专利技术涉及计算机，特别涉及一种消息交互方法、装置、设备及介质。

技术介绍

1、目前，企业通过在5g（5th generation mobile communication technology）消息业务平台注册聊天机器人（chatbot），实现与终端用户的实时交互，但现有ai（artificialintelligence，人工智能）大模型采用深度推理机制，需要通过思维链（cot，chain ofthought）逐步推理生成内容，导致回复篇幅长、处理速度慢，且传统非流式输出方式下模型在完整生成内容前无法传输数据，极易因超时导致任务失败，影响用户体验并增加模型调用成本，同时5g消息的独立消息（standalone message）发送机制要求每条消息单独传输、不依赖持续性连接，其实时性需求与ai大模型长篇幅内容生成之间存在矛盾。

技术实现思路

1、有鉴于此，本专利技术的目的在于提供一种消息交互方法、装置、设备及介质，解决了大模型长篇幅内容生成与独立消息实时性需求之间的矛盾，其具体方案如下：

2、第本文档来自技高网...

【技术保护点】

1.一种消息交互方法，其特征在于，包括：

2.根据权利要求1所述的消息交互方法，其特征在于，所述对所述候选分片位置进行不同维度的评估，得到不同维度的评估得分，包括：

3.根据权利要求1所述的消息交互方法，其特征在于，所述对所述候选分片位置进行不同维度的评估，得到不同维度的评估得分，包括：

4.根据权利要求1所述的消息交互方法，其特征在于，所述对所述候选分片位置进行不同维度的评估，得到不同维度的评估得分，包括：

5.根据权利要求4所述的消息交互方法，其特征在于，在根据所述序列化顺序向所述独立消息平台传输各所述目标消息分片的过程中，还包括：...

【技术特征摘要】

1.一种消息交互方法，其特征在于，包括：

2.根据权利要求1所述的消息交互方法，其特征在于，所述对所述候选分片位置进行不同维度的评估，得到不同维度的评估得分，包括：

3.根据权利要求1所述的消息交互方法，其特征在于，所述对所述候选分片位置进行不同维度的评估，得到不同维度的评估得分，包括：

4.根据权利要求1所述的消息交互方法，其特征在于，所述对所述候选分片位置进行不同维度的评估，得到不同维度的评估得分，包括：

5.根据权利要求4所述的消息交互方法，其特征在于，在根据所述序...

【专利技术属性】
技术研发人员：董远航，高比布，
申请(专利权)人：上海大汉三通通信股份有限公司，
类型：发明
国别省市：