System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及大模型技术、数据处理领域,具体而言,涉及一种数据处理方法、电子设备以及计算机可读存储介质。
技术介绍
1、目前,在整体解决方案层面,现有的推理服务框架,主要是支持数据处理模型的服务化,但是更关注于模型服务调度和硬件加速等层面,对于底层通用的模型调用关注较少,在需要对多个数据进行处理时,一般是通过调用预先设置的模型依次对多个数据进行处理,这样会导致数据处理的效率较低。
2、针对上述的问题,目前尚未提出有效的解决方案。
技术实现思路
1、本申请实施例提供了一种数据处理方法、电子设备以及计算机可读存储介质,以至少解决相关技术中对数据处理效率较低的技术问题。
2、根据本申请实施例的一个方面,提供了一种数据处理方法,包括:响应接收到的多个询问请求,其中,所述询问请求携带有询问数据;对多个所述询问数据进行封装,得到批处理数据;调用多个所述询问请求对应的目标数据处理模型,对所述批处理数据进行处理,得到多个所述询问数据对应的答复结果。
3、根据本申请实施例的一个方面,还提供了一种数据处理方法,包括:响应生成式对话界面中接收到的多个询问请求,其中,询问请求携带有询问数据;对多个询问数据进行封装,得到批处理数据;调用多个询问请求对应的目标大模型,对批处理数据进行处理,得到多个询问数据对应的答复结果;将答复结果显示在生成式对话界面中。
4、根据本申请实施例的一个方面,还提供了一种数据处理方法,包括:响应生成式对话界面中接收到的多个询问请求,其中,
5、根据本申请实施例的一个方面,还提供了一种数据处理方法,包括:接收至少一个客户端在对话模式下发送的多个询问请求,其中,询问请求携带有询问数据;对多个询问数据进行封装,得到批处理数据;调用多个询问请求对应的目标数据处理模型,对批处理数据进行处理,得到多个询问数据对应的答复结果;发送答复结果至对应的客户端,其中,答复结果由对应的客户端显示。
6、根据本申请实施例的一个方面,还提供了一种数据处理方法,包括:通过调用第一接口获取对话模式下,在生成式对话界面中显示的多个询问请求,其中,第一接口包括第一参数,第一参数的参数值为多个询问请求,询问请求携带有询问数据;对多个询问数据进行封装,得到批处理数据;利用多个询问请求对应的目标数据处理模型,对批处理数据进行处理,得到多个询问数据对应的答复结果;通过调用第二接口输出答复结果,其中,第二接口包括第二参数,第二参数的参数值为答复结果。
7、根据本申请实施例的一个方面,还提供了一种电子设备,包括:存储器,存储有可执行程序;处理器,用于运行程序,其中,程序运行时执行上述实施例中任意一项的方法。
8、根据本申请实施例的一个方面,还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的可执行程序,其中,在可执行程序运行时控制计算机可读存储介质所在设备执行上述实施例中任意一项的方法。
9、在本申请实施例中,响应接收到的多个询问请求,其中,询问请求携带有询问数据;对多个询问数据进行封装,得到批处理数据;调用多个询问请求对应的目标数据处理模型,对批处理数据进行处理,得到多个询问数据对应的答复结果,实现了提高多个询问数据的推理效率;容易注意到的是,可以通过将多个询问数据封装为批处理数据来对多个询问数据进行优化,可以根据多个询问请求所需要的服务调用到目标数据处理模型,以便于目标数据处理模块可以快速对批处理数据进行处理,得到多个询问数据对应的答复结果,从而可以提高对多个询问数据的处理效率,进而解决了相关技术中对数据处理效率较低的技术问题。
10、容易注意到的是,上面的通用描述和后面的详细描述仅仅是为了对本申请进行举例和解释,并不构成对本申请的限定。
本文档来自技高网...【技术保护点】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,调用多个所述询问请求对应的目标数据处理模型,对所述批处理数据进行处理,得到多个所述询问数据对应的答复结果,包括:
3.根据权利要求2所述的方法,其特征在于,基于多个所述询问请求的属性信息,调用目标数据处理服务,包括:
4.根据权利要求2所述的方法,其特征在于,所述目标数据处理模型是预先部署的模型,或模型流水线中的模型。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,对多个所述询问数据进行封装,得到批处理数据,包括:
7.根据权利要求6所述的方法,其特征在于,对所述询问数据进行格式转换,得到转换后的数据,包括:
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
9.一种数据处理方法,其特征在于,包括:
10.一种数据处理方法,其特征在于,包括:
11.一种数据处理方法,其特征在于,包括:
12.一种数据处
13.一种电子设备,其特征在于,包括:
14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的可执行程序,其中,在所述可执行程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至11中任意一项所述的方法。
...【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,调用多个所述询问请求对应的目标数据处理模型,对所述批处理数据进行处理,得到多个所述询问数据对应的答复结果,包括:
3.根据权利要求2所述的方法,其特征在于,基于多个所述询问请求的属性信息,调用目标数据处理服务,包括:
4.根据权利要求2所述的方法,其特征在于,所述目标数据处理模型是预先部署的模型,或模型流水线中的模型。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,对多个所述询问数据进行封装,得到批处理数据,包括:
7.根...
【专利技术属性】
技术研发人员:张志成,刘阳,周文猛,
申请(专利权)人:杭州阿里云飞天信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。