下载用于大模型的量化矩阵乘的优化方法、优化设备及可读存储介质的技术资料

文档序号:42875802

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请提供一种用于大模型的量化矩阵乘的优化方法、优化设备及可读存储介质。所述优化方法包括:步骤一:获取第一量化数据、掩码数据以及魔数数据,其中所述第一量化数据具有第一精度,并且是基于量化参数对原始数据进行量化后得到的;步骤二:将所述第一量化...
该专利属于上海无问芯穹智能科技有限公司所有,仅供学习研究参考,未经过上海无问芯穹智能科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。