数据处理方法及装置、设备、存储介质制造方法及图纸

技术编号:38002672 阅读:19 留言:0更新日期:2023-06-30 10:16
本申请公开了一种数据处理方法及装置、设备、存储介质,其中所述方法包括:使用python接口对GPU内存中存储的待处理数据进行预处理,得到预处理数据;将所述预处理数据加载至神经网络模型中进行训练,得到训练后的神经网络模型。采用本申请,能够解决现有技术中GPU在等待CPU的数据时存在的时间和资源浪费的问题。CPU的数据时存在的时间和资源浪费的问题。CPU的数据时存在的时间和资源浪费的问题。

【技术实现步骤摘要】
数据处理方法及装置、设备、存储介质


[0001]本申请实施例涉及计算机
,涉及但不限于一种数据处理方法及装置、设备、存储介质。

技术介绍

[0002]目前,在使用pytorch等训练平台训练小模型,或者使用较大批次(batch size)训练时会发现GPU的利用率很低,训练周期较长。主要原因在于:CPU在加载原始数据之后会进行一些预处理,该预处理操作比较耗时,导致很多时候GPU在等待CPU的数据时,会造成较长的时间和资源浪费。

技术实现思路

[0003]有鉴于此,本申请实施例提供的一种数据处理方法及装置、设备、存储介质,能够解决现有技术中GPU在等待CPU的数据时存在的时间和资源浪费的问题。
[0004]第一方面,本申请实施例提供一种数据处理方法,包括:
[0005]使用python接口对GPU内存中存储的待处理数据进行预处理,得到预处理数据;
[0006]将所述预处理数据加载至神经网络模型中进行训练,得到训练后的神经网络模型。
[0007]第二方面,本申请实施例提供一种数据处理装置,包括:本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法包括:使用python接口对GPU内存中存储的待处理数据进行预处理,得到预处理数据;将所述预处理数据加载至神经网络模型中进行训练,得到训练后的神经网络模型。2.根据权利要求1所述的方法,其特征在于,所述使用python接口对GPU内存中存储的待处理数据进行预处理,得到预处理数据包括:使用python接口获取GPU内存中存储的待处理数据;调用python模块对所述待处理数据进行预处理,得到所述预处理数据;其中,所述预处理包括以下中的至少一项:亮度调整、对比度调整、饱和度调整、色调调整、滤波、添加噪声、图像旋转、缩放、翻转及裁剪处理。3.根据权利要求2所述的方法,其特征在于,所述调用python模块对所述待处理数据进行预处理,得到所述预处理数据包括:调用python模块获取所述预处理的功能参数及调用顺序;按照所述预处理的功能参数及调用顺序,对所述待处理数据进行相应的预处理,得到所述预处理数据。4.根据权利要求3所述的方法,其特征在于,所述python模块包括封装接口模块,所述对所述待处理数据进行相应的预处理,得到所述预处理数据包括:调用所述封装接口模块对所述待处理数据进行图像颜色相关的变化操作,得到所述预处理数据;其中,所述变化操作包括以下预处理中的至少一项:亮度调整、对比度调整、饱和度调整、色调调整。5.根据权利要求3所述的方法,其特征在于,所述python模块包括模糊处理...

【专利技术属性】
技术研发人员:陈腊梅王凡祎
申请(专利权)人:OPPO广东移动通信有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1