下载一种广义逼近的自适应LoRA低秩方法的技术资料

文档序号:45156543

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明提出了一种广义逼近的自适应LoRA低秩方法,特征在于包括直接对transformer注意力层的多个参数变化量矩阵进行广义低秩逼近求解,交替迭代计算求解获得参数变化量矩阵的左右投影变换矩阵,根据优化目标的收敛条件以双边降维的迭代方法对矩...
该专利属于中国人民解放军91776部队所有,仅供学习研究参考,未经过中国人民解放军91776部队授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。