数据处理方法、装置、设备及介质制造方法及图纸

技术编号:43318063 阅读:21 留言:0更新日期:2024-11-15 20:18
本申请提供一种数据处理方法、装置、设备及介质。该方法包括:响应于来自第一设备的第一提问请求,向人工智能AI服务器发送第一任务请求;第一提问请求和第一任务请求均包括第一提问内容和第一工作流的标识;接收来自AI服务器的第一任务响应;根据第一任务响应更新第一工作流的词元token数量;响应于来自第一设备的第二提问请求,若第一工作流的token数量大于预设值,向AI服务器发送第二任务请求;第二提问请求和第二任务请求均包括第二提问内容和第一工作流的标识,第二任务请求还包括指示信息,指示信息用于指示AI服务器限制返回回复内容的token数量。本申请的方法,实现直观且有效控制用户使用资源不合理的效果。

【技术实现步骤摘要】

本申请涉及计算机领域,尤其涉及一种数据处理方法、装置、设备及介质


技术介绍

1、在例如问答服务类的应用场景中,用户在网站上提问,可以得到提问问题对应的回答,为用户的生活带来便捷。用户网站一般由中间服务商提供,中间服务商将用户的提问经由第三方模型公司处理后,将提问问题对应的回答展示于网站。

2、然而,用户每次使用网站进行提问,就会产生一定的传输成本和资源消费,第三方模型服务商通常基于中间服务商使用其资源的情况收取费用。当前存在用户使用资源不合理的情况。


技术实现思路

1、本申请提供一种数据处理方法、装置、设备及介质,用以解决用户使用资源不合理的情况技术问题。

2、第一方面,本申请提供一种数据处理方法,应用于第一服务器,包括:

3、响应于来自第一设备的第一提问请求,向人工智能ai服务器发送第一任务请求;第一提问请求和第一任务请求均包括第一提问内容和第一工作流的标识;

4、接收来自ai服务器的第一任务响应;

5、根据第一任务响应更新第一工作流的词元tok本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,应用于第一服务器,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述第一任务响应至少包括第一回复内容、所述第一提问内容的token数量和所述第一回复内容的token数量;所述根据所述第一任务响应更新所述第一工作流的token数量,包括:

3.根据权利要求1或2所述的方法,其特征在于,所述第一任务响应包括所述AI服务器本次使用的AI模型的标识;所述方法还包括:

4.根据权利要求1所述的方法,其特征在于,所述响应于来自第一设备的第一提问请求,向人工智能AI服务器发送第一任务请求之前,所述方法还包括:

...

【技术特征摘要】

1.一种数据处理方法,其特征在于,应用于第一服务器,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述第一任务响应至少包括第一回复内容、所述第一提问内容的token数量和所述第一回复内容的token数量;所述根据所述第一任务响应更新所述第一工作流的token数量,包括:

3.根据权利要求1或2所述的方法,其特征在于,所述第一任务响应包括所述ai服务器本次使用的ai模型的标识;所述方法还包括:

4.根据权利要求1所述的方法,其特征在于,所述响应于来自第一设备的第一提问请求,向人工智能ai服务器发送第一任务请求之前,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1所述的方法,其特征在...

【专利技术属性】
技术研发人员:邢云阳
申请(专利权)人:中国联合网络通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1