温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本申请提供一种大模型训练系统的参数训练方法、装置及程序产品,包括第一计算节点获取第i次迭代训练产生的n个参数的梯度信息;第一计算节点根据第i次迭代训练产生的n个参数的梯度信息与第i‑1次迭代训练后的残留梯度和,确定第i次迭代总梯度;第一计算...该专利属于深圳前海微众银行股份有限公司所有,仅供学习研究参考,未经过深圳前海微众银行股份有限公司授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本申请提供一种大模型训练系统的参数训练方法、装置及程序产品,包括第一计算节点获取第i次迭代训练产生的n个参数的梯度信息;第一计算节点根据第i次迭代训练产生的n个参数的梯度信息与第i‑1次迭代训练后的残留梯度和,确定第i次迭代总梯度;第一计算...