数据处理方法、装置、电子设备和计算机可读存储介质制造方法及图纸

本申请涉及一种数据处理方法、装置、电子设备、存储介质和计算机程序产品。所述方法包括：在当前轮的数据处理过程中，对输入数据进行逻辑处理，生成处理数据，并将所述处理数据存放至存储空间中；从所述存储空间中获取存储数据，并将所述存储数据和所述处理数据进行拼接，得到拼接数据；所述存储数据是所述存储空间中除所述处理数据之外所包含的数据；将所述拼接数据作为下一轮的数据处理过程的输入数据，迭代执行所述对输入数据进行逻辑处理的步骤，直到完成至少两轮的数据处理过程，输出目标数据。采用本方法能够降低数据的存储空间占用量。

【技术实现步骤摘要】

本申请涉及人工智能(ai，artificial intelligence)，特别是涉及一种数据处理方法、装置、电子设备和计算机可读存储介质。

技术介绍

1、在以transformer为基本结构的语言模型中，kv cache是广泛使用的方法，用来在生成下一个词的计算时避免重复计算之前已生成词对应的计算结果，从而显著加快计算速度。而在语言模型的处理过程中，会将产生的数据进行存储。

2、然而，传统的数据处理方法，存在数据的存储空间占用量较大的问题。

技术实现思路

1、本申请实施例提供了一种数据处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品，可以降低数据的存储空间占用量。

2、第一方面，本申请提供了一种数据处理方法。所述方法包括：

3、在当前轮的数据处理过程中，对输入数据进行逻辑处理，生成处理数据，并将所述处理数据存放至存储空间中；

4、从所述存储空间中获取存储数据，并将所述存储数据和所述处理数据进行拼接，得到拼接数据；所述存储数据是所述存储空间中除所述处本文档来自技高网...

【技术保护点】

1.一种数据处理方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述将所述第一处理数据存放至存储空间中，包括：

3.根据权利要求2所述的方法，其特征在于，所述确定所述第一处理数据的存储地址，包括：

4.根据权利要求3所述的方法，其特征在于，所述确定当前轮对应的地址偏置，包括：

5.根据权利要求1所述的方法，其特征在于，所述存储空间的数据排布格式包括第一子参数和第二子参数，所述第一子参数表征语言模型并行处理输入语句的数量，所述第二子参数表征所述存储空间中包含的存储数据的长度；

6.根据权利要求5所述的方法，其特...

【技术特征摘要】

1.一种数据处理方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述将所述第一处理数据存放至存储空间中，包括：

3.根据权利要求2所述的方法，其特征在于，所述确定所述第一处理数据的存储地址，包括：

4.根据权利要求3所述的方法，其特征在于，所述确定当前轮对应的地址偏置，包括：

5.根据权利要求1所述的方法，其特征在于，所述存储空间的数据排布格式包括第一子参数和第二子参数，所述第一子参数表征语言模型并行处理输入语句的数量，所述第二子参数表征所述存储空间中包含的存储数据的长度；

6.根据权利要求5所述的方法，其特征在于，所述...

【专利技术属性】
技术研发人员：李路长，袁伦喜，
申请(专利权)人：OPPO广东移动通信有限公司，
类型：发明
国别省市：