【技术实现步骤摘要】
神经网络的训练方法、装置、计算机设备及存储介质
本公开涉及神经网络
，具体而言，涉及一种神经网络的训练方法、装置、计算机设备及存储介质。
技术介绍
强化学习是机器学习的一个重要分支，是多学科多领域交叉的产物。一般的，强化学习损失函数的计算表现为含时间序列的线性变化计算。以人工智能平台Pytorch为例，强化学习损失函数的输入(即神经网络多次的输出结果)一般是存储在高维数组中，在计算强化学习损失函数时，一般是将高维数组进行切片，得到强化学习损失函数的输入，然后基于强化学习损失函数对输入进行线性变换计算，得到损失值。在对高维数据进行切片，在基于强化学习损失函数对输入进行线性变换计算时，由于每次切片操作和线性变换计算都需要启动计算算子对应的内核，当计算算子的个数较多时，计算算子对应的内核启动所耗费的时间较长，损失值的计算速度较慢。
技术实现思路
本公开实施例至少提供一种神经网络的训练方法、装置、计算机设备及存储介质。第一方面，本公开实施例提供了一种神经网络的训练方法，包括：基于神经...
【技术保护点】
1.一种神经网络的训练方法，其特征在于，包括：/n基于神经网络对应的目标损失函数，生成第一计算算子；其中，所述第一计算算子中包括多步操作；/n在训练所述神经网络的过程中，调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值；/n基于所述损失值，调整所述神经网络的网络参数值。/n
【技术特征摘要】
1.一种神经网络的训练方法，其特征在于，包括：
基于神经网络对应的目标损失函数，生成第一计算算子；其中，所述第一计算算子中包括多步操作；
在训练所述神经网络的过程中，调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值；
基于所述损失值，调整所述神经网络的网络参数值。
2.根据权利要求1所述的方法，其特征在于，所述方法包括根据以下方法生成所述第一计算算子：
确定所述目标损失函数中至少一组可融合的多步操作；
基于所述至少一组可融合的多步操作，确定每组可融合的多步操作对应的所述第一计算算子。
3.根据权利要求2所述的方法，其特征在于，所述方法包括如下至少一项：
属于同一组的所述可融合的多步操作在所述目标损失函数的计算过程中相邻，且计算特征相容；
在所述可融合的多步操作包括多组的情况下，至少两组所述可融合的多步操作之间计算特征不相容。
4.根据权利要求3所述的方法，其特征在于，在所述调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值之前，所述方法还包括：
确定在所述目标损失函数的计算过程中与相邻操作的计算特征不相容的至少一步操作对应的第二计算算子。
5.根据权利要求4所述的方法，其特征在于，所述调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值，包括：
按照所述第一计算算子和所述第二计算算子在所述目标损失函数中的计算顺序，调用所述第一计算算子对应的内核执行所述第一计算算子，以及，调用所述第二计算算子的内核执行所述第二计算算子，得到本次训练过程中的损失值。
6.根据权利要求1～5任一所述的方法，其特征在于，在所述神经网络为强化学习网络的情况下，所述调用所述第一计算算子对应的内核执行所述第一计算算子，包括：
基于所述目标...
【专利技术属性】
技术研发人员：王迎瑞，高洋，
申请(专利权)人：上海商汤智能科技有限公司，
类型：发明
国别省市：上海;31
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。