下载一种大语言模型的低秩适配量化微调方法及装置的技术资料

文档序号:41358165

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请公开了一种大语言模型的低秩适配量化微调方法及装置,方法包括:对大语言模型进行量化,得到第一量化模型;向第一量化模型的每个线性变换层插入低秩适配矩阵,得到第二量化模型;确定第二量化模型与大语言模型之间的损失值;根据损失值调整第二量化模型...
该专利属于广东能哥知识科技有限公司所有,仅供学习研究参考,未经过广东能哥知识科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。